1. 首頁 > 科技 > >

病毒|我們需要將人工智能與人類大腦和偏見脫鉤

網絡安全病毒算法機器學習護士

病毒|我們需要將人工智能與人類大腦和偏見脫鉤

文章圖片

病毒|我們需要將人工智能與人類大腦和偏見脫鉤

我們可能需要擺脫人類思維的局限性

1956年夏天 ， 10名科學家在達特茅斯學院會面 ， 并發明了人工智能 。 來自數學、工程、心理學、經濟學和政治學等領域的研究人員聚集在一起 ， 看看人工智能能否如此準確地描述學習和人類思維 ， 以便用機器復制 。 僅僅十年后 ， 這些科學家為機器人學、自然語言處理和計算機視覺的戲劇性突破做出了貢獻 。
盡管自那以后已經過去了很多時間 ， 但機器人學、自然語言處理和計算機視覺仍然是迄今為止最熱門的研究領域之一 。 可以說 ， 我們專注于教人工智能像人一樣移動 ， 像人一樣說話 ， 像人一樣看 。
這樣做的理由很清楚：有了人工智能 ， 我們希望機器可以像人一樣行為、閱讀法律合同或購買東西等任務 。 我們希望這些任務比人類更快、更安全、更徹底地完成 。 這樣 ， 當機器承擔我們生活中無聊的任務時 ， 人類將有更多的時間進行有趣的活動 。
然而 ， 研究人員越來越認識到 ， 人工智能在模仿人類思維時 ， 可能會遺傳人類偏見 。 這個問題體現在亞馬遜的招聘算法和美國政府的COMPAS算法中 ， 前者以歧視婦女而聞名 ， 后者不成比例地懲罰黑人 。 無數其他例子進一步說明了人工智能中的偏見問題 。
在這兩種情況下 ， 問題都始于一個有缺陷的數據集 。 亞馬遜的大多數員工都是男性 ， 許多被監禁的人都是黑人 。 盡管這些統計數據是普遍存在的文化偏見的結果 ， 但該算法無法知道這一點 。 相反 ， 它得出結論 ， 它應該復制它提供的數據 ， 這加劇了數據中包含的偏見 。
手動修復可以消除這些偏見 ， 但它們帶有風險 。 如果不正確實施 ， 善意的修復可能會使一些偏見變得更糟 ， 甚至引入新的偏見 。 然而 ， 人工智能算法的最新發展使這些偏見越來越不重要 。 工程師應該接受這些新發現 。 新方法限制了偏見污染結果的風險 ， 無論是來自數據集還是工程師本身 。 此外 ， 新興技術意味著工程師自己需要減少對人工智能的干擾 ， 消除更無聊和重復的任務 。

當人類知識成為王者時
想象一下以下場景：您有一組來自不同行各業的人 ， 跟蹤他們是否感染了新冠病毒 。 無論是醫生、護士還是藥劑師 ， 人類都輸入了COVID/無COVID標簽 。 醫療保健提供商可能有興趣預測新條目是否可能已經感染了新冠病毒 。
監督機器學習在解決此類問題時非常有用 。 算法可以吸收所有數據 ， 并開始了解不同的變量 ， 如一個人的職業、總收入、家庭狀況、種族或郵政編碼 ， 如何影響他們是否感染了疾病 。 例如 ， 該算法可以估計三名來自紐約孩子的拉丁裔護士已經感染新冠病毒的可能性 。 因此 ， 她的疫苗接種日期或保險費可能會被調整 ， 以便通過有效分配有限的資源來拯救更多生命 。
這個過程乍一看聽起來非常有用 ， 但有陷阱 。 例如 ， 醫療保健提供商可能給數據點貼錯了標簽 ， 導致數據集錯誤 ， 并最終導致不可靠的結論 。 這種類型的錯誤在上述就業市場和監禁系統中尤其具有破壞性 。
監督機器學習似乎是解決許多問題的理想方法 。 但人類太參與數據制作過程了 ， 以至于無法使其成為靈丹妙藥 。 在一個仍然遭受種族和性別不平等的世界里 ， 人類偏見普遍存在 ， 具有破壞性 。 依賴如此多的人類參與的人工智能總是有納入這些偏見的風險 。

相關經驗推薦