人工智能和機器學習
但首先，什么是 AI 和 ML？ AI是人工智能的 簡稱 。 這是“超級智能算法”的另一種說法。 如果我讓您查看描述兩個角色的兩組數(shù)據(jù)，您將能夠在腦海中比較它們并得出結論。 （那是因為你是一個聰明的人，而這種分析實際上是人類在進化過程中設計要做的事情。）但是，如果我把 300 萬個這樣的角色放在你面前并要求真實-時間分析……是的，沒那么多。 這就是計算機的用途！ 這就是人工智能大放異彩的地方。 人工智能可以以閃電般的速度索引和分析所有數(shù)據(jù)，然后根據(jù)代碼中的選項做出下一步該做什么的決定。
但人工智能本身也有局限性。 如果它發(fā)現(xiàn)某些角色與其算法中的任何內容都不匹配，那么我們就有了一個與計算機“stump the chump”的游戲。 這很有趣，理所當然，但人們在大數(shù)據(jù)上花費大筆資金通常不會被逗樂。 這就是機器學習的用武之地。機器學習在“建議”的代碼中選擇選項，而是查看不匹配的數(shù)據(jù)并說“棒極了！ 讓我們稍微修改一下這段代碼，好嗎？”
這聽起來很神奇，但老實說，這只是非常復雜的 決策樹 。 數(shù)據(jù)是否適合 A？ 不？ 然后去B。它適合B嗎？ 是的！ 太好了，去 B+1。 快說一千萬倍。

人工智能、機器學習和其他人——缺點
由于在線數(shù)據(jù)量巨大，如果不是因為人工智能和機器學習的持續(xù)發(fā)展，我們就不會擁有一個功能特別強大的互聯(lián)網。 想一想：搜索引擎如何做他們的事？ 大型網絡商務網站如何知道向我提供特定建議？ 語音識別系統(tǒng)如何識別這么多不同的聲音和口音？ 系統(tǒng)如何在有這么多面孔的情況下進行面部識別？
AI 和 ML 絕對至關重要，沒有兩種方法，但它們有一個共同的問題：AI 和 ML 以及它們所有的孩子都是從人類開始的。 從統(tǒng)計學上講，那個人很可能是男性。 必須有人編寫該代碼，并且在編寫該代碼時，他們不禁會在他們正在設計的系統(tǒng)中引入一些偏見。 例如， 哈佛大學 表明，面部識別算法對深膚色女性的準確率始終最低，而對淺膚色男性的準確率最高。 在理想的世界中，開發(fā)人員是一個高度多樣化的團隊的成員，在該團隊中，偏見可以在代碼中快速識別和處理，然后再上線。 我喜歡那個世界。 我想住在那里。
不幸的是，這不是我們目前生活的世界。我可以指出大量文章說女性和少數(shù)族裔在科技領域沒有得到很好的代表（繼續(xù)關注 AI 和 ML，我真的很喜歡 Wired 的這篇 文章 ）。 如果在開發(fā)階段不處理偏見，我們將看到各種各樣的問題。 事實上， 我們確實看到 了各種各樣的問題，包括 醫(yī)療保健 、 刑事司法 、 招聘系統(tǒng) ……不勝枚舉。 我什至可以指出該算法如何將個人推向 極端主義觀點 。

減輕 AI/ML 中的偏見
這一切聽起來很可怕。 擁有快速搜索引擎的價值是否足以證明有偏見的人工智能的社會成本是合理的？ 這就是問題，不是嗎。 如果沒有辦法解決 AI 和 ML 系統(tǒng)中的偏見，那么我可能會說不，這不值得。 但是，如果一切都按設計進行……醫(yī)療可能會在干預措施最有用的最早時刻發(fā)生。 人們可以在做出會導致他們被捕的生活選擇之前獲得他們需要的支持。 招聘系統(tǒng)實際上是中立和公平的，而不僅僅依賴于人的判斷（盡管仍然有點依賴）。 哎呀，人工智能甚至可以開始生成 自己的數(shù)據(jù)集 ！
并不是說我們不知道這些系統(tǒng)中的偏見是一個問題。 那里也有很多關于如何處理它的文獻。 對“如何防止 AI 中的偏見”進行網絡搜索。 我個人無法決定首先閱讀哪篇文章：承諾以三種方式、四種方式、六種方式或七種方式減少或減輕 AI 系統(tǒng)中的偏見的文章。 這只是那里的流行內容。 訪問像 Google Scholar 會讓你從真正的數(shù)據(jù)科學家那里獲得關于該主題的適當研究。
甚至經濟合作與發(fā)展組織（通常稱為經合組織；認為強大的、基于條約的國際組織）也 指導 對如何設計人工智能 沒有人需要遵循這些準則，但它們是一個很好的起點。 微軟 是一家在人工智能方面做了很多工作的公司，它也有一些相當廣泛的指導方針和治理。 所以有希望和一些既定的指導方針。