1. 首頁 > 科技 > >

|人工智能系統僅用6小時就設計出4萬種假想的生化武器

|人工智能系統僅用6小時就設計出4萬種假想的生化武器

人工智能尖端的數據處理能力 ， 意味著人工智能系統能夠及早發現疾病 ， 管理化學反應 ， 并解釋一些宇宙之謎 。 但這種不可思議的、幾乎無限的人工智能也有其可怕的缺點 。

新的研究強調 ， 人工智能模型很容易被訓練用于惡意目的和良好目的 ， 特別是在這個案例中 ， 用來想象假想的生物武器制劑的設計 。 用現有的人工智能進行的試驗 ， 僅在6小時內就識別出了4萬種此類生物武器化學物質 。
換句話說 ， 雖然人工智能在發現和改善我們健康的化學組合和藥物化合物方面具有令人難以置信的強大能力 ， 而且比人類快得多 ， 但同樣的能力也可以用來制造潛在的非常危險和致命的物質 。
研究人員對此評論道：“幾十年來 ， 我們一直在使用計算機和人工智能來改善人類健康 ， 而不是損害它 。 我們天真地認為我們的行業可能被濫用 ， 因為我們的目標一直是避免可能干擾人類生命所必需的許多不同類別蛋白質的分子特征 。 ”
該團隊在一次國際安全會議上進行了試驗 ， 將一個名為“MegaSyn”的人工智能系統投入使用 —— 并不是在其正常的運行模式下 ， 即檢測分子的毒性以避免它們 ， 而是正相反 。
在實驗中 ， 有毒分子被保留了下來 ， 而不是被清除掉 。 更重要的是 ， 這個模型還被訓練將這些分子組合在一起 —— 這就是為什么在這么短的時間內能制造出這么多假想的生物武器 。
特別是 ， 研究人員使用類藥物分子數據庫中的分子訓練人工智能 ， 指示他們想要類似于強效神經毒劑 VX 的東西 。
【|人工智能系統僅用6小時就設計出4萬種假想的生化武器】事實證明 ， 許多生成的化合物甚至比VX的毒性更大 。 因此 ， 這項新研究的作者對他們研究的一些細節保密 ， 并在認真討論是否要公開這些結果 。
研究人員解釋說：“通過顛倒機器學習模型的使用 ， 我們已經將無害的生成模型從一種有用的醫學工具轉變為可能致命分子的生成器 。 ”
法比奧·烏爾比納是這項研究的第一作者 ， 也是合作制藥（Collaborations Pharmaceuticals）公司的高級科學家 ， 該研究就是在該公司進行的 。 他解釋說 ， 從好的人工智能“切換”到壞的人工智能并不需要太多時間 。
雖然 ， 所列的生物武器都沒有真正被探索或在實驗室中組裝 ， 但研究人員表示 ， 他們的實驗是對人工智能危險的一個警告 —— 這是一個人類應該好好注意的警告 。
雖然團隊在這里所做的工作需要一些專業知識 ， 但很多過程都相對簡單 ， 并且使用了公開可用的工具 。
研究人員現在呼吁“重新審視”人工智能系統會如何潛在地被用于惡意目的 。 他們表示 ， 在研究界 ， 更強的意識、更強的指導方針和更嚴格的監管 ， 可以幫助我們避免這些人工智能可能導致的危險 。
研究人員解釋說：“我們的概念證明 ， 強調了非人類自主制造致命化學武器是完全可行的 。 這不是過分危言聳聽 ， 這應該為我們在 ‘藥物發現AI’ 領域的同事敲響警鐘 。 ”
如果朋友們喜歡 ， 敬請關注“知新了了”！

    相關經驗推薦