隨著科學技術的進步，近年來AI（人工智慧）呈現出爆發式的發展，而科學技術的進步似乎永遠是一把雙刃劍！例如：最近由分別來自美國、英國和瑞士的科學家組成的國際研究團隊，進行了一項 AI（人工智慧）模型在化學武器的開發中被濫用的模擬實驗，最後的實驗結果顯示AI竟可以在6小時內設計出 40000 種劇毒化合物！目前，該研究的詳細信息被發表在了2022年3月7日出版的科學期刊《Machine Intelligence》（為Nature的子刊） 上。今天小編就來跟大家科普一些這方面的知識吧！
為什麼要進行「人工智慧濫用」的模擬實驗？
在一些領域中，人工智慧可以遠遠超越人類智能的效率。眾所周知，在人工智慧的世界裡沒有對與錯的概念，如果人類惡意使用人工智慧，即使是為幫助人類而創建的人工智慧也會對人類構成威脅。而為了研究這種可能的後果，在瑞士施皮茨實驗室主辦的「融合大會」上，科學家提出了激活人工智慧「邪惡開關」的想法。這項研究的目的就是為了了解對人類有用的人工智慧技術在化學領域是否可能會無意中產生「負面影響」。
AI是如何製造劇毒化合物的？
在本次研究中，研究人員使用的是一種常被用於製造治療疾病的化合物的人工智慧，但是為了測試人工智慧可能被濫用的難易程度，研究人員打開了人工智慧的「邪惡開關」。而結果就是人工智慧在短短 6 小時內就設計出了40000 種劇毒化合物。
負責該項研究的首席研究員Fabio Urbina表示，他們的人工智慧使用了一個被全世界廣泛使用的有毒化學品資料庫，並且人工智慧使用的許多數據集都是在網上可以尋找到的免費公開數據，而這些免費公開數據人們可以隨時隨地的下載。
該研究團隊的研究人員還表示，如果普通人也想製作一個這樣的人工智慧，那麼只需要在網上尋找和下載過去已經在網上公開的一些人工智慧模型，然後再去網上尋找大量的開源的有毒化學品資料庫，並將兩者用網際網路和計算機連接起來，就可以輕鬆的製作出和論文中使用的相似人工智慧了!當然這樣做的前提是你要會編程和構建機器學習模型。
寫在最後：
從這篇文章中不難看出，目前在人工智慧領域針對文中這種濫用人工智慧的行為，全世界各國都沒有什麼有效的預防措施；因此，如果人工智慧以這種方式被濫用的話，或者如果未來某天人工智慧本身獲得意識而反抗人類......那麼因此帶來的後果是無法估量的！
作者｜蔣丹
來源｜鄭州市第二屆科普徵文大賽投稿入選作品
聲明｜觀點僅代表作者本人，不代表本號立場
