Brian Sathianathan 是 Iterate.AI 的首席技術官和聯合創始人，Iterate.ai是 Interplay 低代碼平台的創建者，用於快速構建跨行業的基於 AI 的應用程式。此前，Sathianathan 在 Apple 從事各種新興技術項目，包括 Mac 作業系統和第一款 iPhone。
最初是什麼吸引您使用 AI 技術？
我一直對算法驅動的學習很感興趣，我在大學期間就開始使用 AI 系統。此外，在我職業生涯的早期，我花了很多時間為 Apple 開發密碼學和其他安全技術，並為我之前共同創立的一家公司開發影片壓縮技術。影片和加密技術都是算法密集型的，這確實使我在 AI/ML 方面的學習曲線更快。2016 年左右，我開始使用開源 AI 框架/GPU，意識到它們在過去五年中取得了多大的進步——無論是從算法的角度來看，還是從它們進行更廣泛分類的能力來看。然後我意識到有必要讓每個人都更容易和更簡單地使用它。
你對人工智慧中的認知偏差和數據偏差有一些強烈的看法，你能分享這些擔憂嗎？
當工程師讓自己的觀點和先入之見塑造他們的 AI 訓練數據集時，就會出現 AI 偏見。如此迅速地破壞了他們試圖通過人工智慧實現的目標。大多數情況下，這種影響是潛意識的，所以他們甚至可能沒有意識到偏見已經滲透到他們的數據集中。如果沒有有效的制衡，數據可能僅限於工程師傾向於考慮的那些焦點或人口統計數據。即使工程師擁有高質量和大量數據可供使用，數據集中的偏差也會導致 AI 應用程式提供的結果不正確，並且在許多情況下基本上是無用的。
Gartner 的一份報告估計，到 2030 年，85% 的 AI 項目將由於偏見而提供錯誤的結果。這是一個很大的差距需要克服。基於人工智慧進行投資、信任和做出戰略決策的企業——只會被基於偏見的錯誤結論所誤導——冒著高成本失敗和聲譽受損的風險。隨著人工智慧迅速從一項新興技術轉變為面向客戶的應用程式和內部流程中無處不在的基石，消除偏見對於實現人工智慧未來的真正潛力至關重要。
有什麼方法可以防止這些類型的偏見出現？
必須系統地、主動地檢測和消除人工智慧偏見。偏差可能被硬編碼到算法中。不準確可能是通過簡單地忽略必要數據的認知偏差引入的。聚合偏差是這裡的另一個風險，一系列小決策加起來會導致 AI 結果出現偏差。
檢測和消除所有形式的人工智慧偏見需要組織利用框架、工具包、流程和策略來有效緩解這些問題。例如，人工智慧框架，如勞斯萊斯的 Aletheia 框架和德勤的人工智慧框架——輔以自動執行的基準測試——可以促進人工智慧應用程式開發和部署的無偏見實踐。AI Fairness 360 和IBM Watson OpenScale等工具包可以識別和消除機器學習 中的偏見和偏見模式模型和管道。最後，根據定義的偏見指標測試數據的流程，結合提供治理以通過強制實踐阻止偏見的政策，使組織能夠系統地檢查其盲點並減少人工智慧偏見。
您是 Iterate.ai 的首席技術官和聯合創始人——它是如何開始的？
這個故事始於 2013 年，當時聯合創始人 Jon Nordmark（我們的執行長）和我都擔任了位於烏克蘭的東歐加速器的董事會成員，該加速器旨在幫助那裡的企業家建立和運營矽谷風格的初創公司。那些具有驚人創新能力的新公司的經歷使我們產生了將有前途（但可能鮮為人知）的初創公司與需要創新支持的大型企業配對的想法。我們隨後推出了當時稱為 Iterate Studio 的產品，為企業提供了一個專門的搜尋引擎，以根據大型組織正在尋求的創新能力來尋找創業合作夥伴。2015 年，該公司更名為 Iterate.ai，以突出我們以人工智慧為驅動的創業策劃。今天，我們的信號資料庫索引了超過 1570 萬種基於多種因素的初創技術（並使用專有的 AI 使其在這種規模上發生）。
我們在 2017 年進行了擴展，並推出了我們的Interplay低代碼應用程式開發平台的第一個版本。Interplay 提供了一個人工智慧驅動的軟體層，通過支持拖放式利用創新技術，同時將軟體開發速度提高十倍，使企業的傳統堆棧現代化。低代碼平台具有 475 個預構建組件，因此用戶可以混合和匹配快速啟動應用程式所需的技術。人工智慧賦能是平台的核心，也是物聯網、數據集成甚至區塊鏈的其他低代碼組件。
Iterate 是一個用於開發人工智慧應用程式的低代碼平台；可以構建哪些 AI 應用程式？
我們的低代碼平台使人工智慧應用程式能夠用於非常有趣的各種用例——部署的廣度是我們真正引以為豪的事情。價值 10 億美元的全球美容零售商 Ulta Beauty 使用我們的平台在短短兩周內構建了一個智能 AI 零售客戶聊天機器人。相比之下，原始聊天機器人以關鍵字為中心，大多數供應商聊天機器人應用程式無法與舊系統無縫集成以訪問客戶信息或允許平穩過渡到人工輔助支持。Ulta 的智能 AI 聊天機器人通過自然語言處理消除了這些問題功能和識別客戶「意圖」以提供真正準確的響應的能力。我們的平台使 Ulta 可以在短短數小時內輕鬆構建聊天機器人的 AI 引擎，並以極快的速度配置、改進和改進聊天機器人的訓練和響應。
在另一個示例中，Jockey 利用我們的平台啟用 AI 驅動的常見問題解答，以便自動（並成功）響應相當複雜和主觀的客戶服務場景。我們的平台還依靠基於人工智慧的客戶車牌圖像識別，實現了全球便利店和燃氣網絡對非接觸式加油泵的大流行應對。我們的 AI 功能也被用於在零售點支持以攝像頭為中心的安全策略。通過圖像識別，經過訓練的人工智慧應用程式可以識別店面外的威脅和武器的存在，觸發商店鎖定以保護客戶，並聯繫當局。
實際的編碼要求有多小？用戶需要具備多少開發技能？
在我看來，80/20 規則適用。80% 的應用 AI 用例已經構建，並圍繞它們建立了模型和訓練數據。傳統組織可以輕鬆使用低代碼平台（我們的 Interplay 就是這樣一個平台）並實施這些案例。這裡有些例子：
- 人工智慧驅動的常見問題解答
- 人工智慧驅動的產品查找器
- 產品推薦和捆綁
- 光學字符識別
- 視覺產品識別
- 表格數據分析：AOV、籃子分析、客戶流失預測等
- 對象提取/檢測
- 對象持久性
上述案例可以由具有伺服器端編程知識和對機器學習 API 有一些基本了解的工程師來實現。它與當今通過 API 廣泛使用的影片流、加密和密鑰管理技術非常相似。大多數使用這些 API 的工程師通常不知道它們在底層是如何工作的。
為什麼低代碼 AI 對於擴展 AI 技術很重要？
在應用程式開發中追求 AI 功能的企業在不使用低代碼時很快就會面臨重大挑戰。當今世界，只有 30 萬 AI 工程師，其中只有 6 萬是數據科學家。正因為如此，開發和擴展人工智慧解決方案所需的人才是昂貴的，而且還在不斷增加。相比之下，低代碼開發確實使人工智慧的訪問民主化。藉助低代碼，全球 2500 萬軟體開發人員中的任何一個，甚至那些未經培訓的開發人員，都可以輕鬆實施 AI 引擎、改進其功能，並生成和擴展有效的解決方案。
回到 Iterate.ai 的 AI 驅動的 Signals 平台，出現了哪些更有趣的趨勢？
我們看到五種創新力量的快速增長：人工智慧、物聯網、區塊鏈、數據和新興的創業解決方案。這些都是非常大的市場。我們每天都會看到數以千計的關於新聞、專利和新啟動產品的數據點。Interplay 的構建也是為了利用這些力量，通過包含預先構建的組件來利用這些不斷增長的力量。
關於 Iterate.ai，您還有什麼想分享的嗎？
我認為對於低代碼及其在構建 AI 應用程式中的作用仍然存在誤解。IT 專業人員質疑低代碼策略能否滿足他們對企業級可伸縮性、可擴展性和安全性的要求的情況並不少見。我認為用於原型設計的低代碼選項 - 但被誤用作生產應用程式的工具 - 導致了這種厭倦。也就是說，正確的低代碼平台完全可以勝任構建和支持生產就緒型 AI 應用程式的任務。企業應在選擇低代碼工具時盡職盡責，確保這些工具具有透明和徹底的安全層，以及在企業規模交付應用程式的可靠記錄。
