促使 Twitter 取消自動剪裁圖片功能是她！Rumman Chowdhury致力打造符合道德標準的 AI 技術
隨著科技日漸進步，人臉辨識系統越來越發達，但可能你萬萬都沒想到，這當中卻可能牽涉到種族或其他敏感的人權議題。
曾榮獲 BBC 全球最有影響力女性頭銜之一的軟體工程師 Rumman Chowdhury，專門研究人工智慧與人性道德領域，於今年初加入 Twitter 團隊，積極探討公司一直以來存有偏差的圖像裁剪算法。
#從小立志當科學家
現年約 40 歲的 Rumman Chowdhury，為美籍孟加拉裔的數據科學家，由於從小喜歡看科幻小說，因此開始對科學產生好奇心。在完成與資料科學相關的學業之後，她加入全球最大的管理諮詢和技術服務公司——埃森哲（Accenture），參與人工智慧技術團隊，展現人工智慧的無窮潛力。
#人工智慧複製人類偏見
除了工作以外，Rumman Chowdhury 特別關注「演算法偏差（algorithmic bias）」，因為看似普通的程式設計之中，其用來訓練 AI 進行圖像識別的資料庫，可能會帶有開發者或設計者的偏見。舉例來說，資料庫的 10 萬張關於「護理師」的圖片，全都是以女性為主，那麼在護理師的搜尋結果之中，出現男性護理師的比例就會遠低於女性，而這種狀況恐怕會加深刻板的性別定型印象的隱憂。
而臉部辨識系統也會出現同樣的情況，若是工程師所提供的訓練資料大多為白人男性的影像，那麼僅只適合用於辨識白人男性的臉部，對於黑人或是女性來說，辨識錯誤率不只會提高，而且也帶有歧視與偏見。有鑑於此，Rumman Chowdhury 與研究人員一起開發可以仔細檢查輸入法的數據的工具，並多次確認性別或種族是否會影響結果，為公司和客戶做出更公平的決策。
#致力使演算法設計更合乎道德
憑藉著對科學的熱情，以及想幫助難民習得一技之長，Rumman Chowdhury 與朋友一起創辦「X Institute」，專門提供難民學習資料，增強他們在科學和行銷方面的知識，讓他們有機會能夠展開獨立自主的新生活。除了積極回饋社會之餘，她同時致力使 AI 在設計上更合乎道德，多次在演講中公開表示 AI 決策系統可能對於社會及公眾利益產生的影響，還因此獲得 2017 年 BBC 票選為全球百位具有影響力及啟發性的女性之一。
#推動演算法公平性計劃
在辭去 Accenture 的工作後，Rumman Chowdhury 在今年加入 Twitter 並擔任軟體工程師主管一職，隨即與團隊檢討關於 2018 年引入的「焦點演算法」。這個功能主要用以裁切影像，令使用者的預覽圖能夠大小一致，並自動將焦點集中在影像裡較為重要的元素。「我們考量了自動裁切的速度和一致性，以及我們在研究中所看見的潛在風險。」她認為這套演算法所裁切而成的預覽圖，時常會聚焦在女性的胸部和腿部，且經團隊研究後發現，此演算法在分析影像時，剪裁模型偏好女性與白人，導致偏差性的結果，嚴重限制了使用者按自己意願呈現圖片內容的自由，造成偏見及歧視問題。
為減少平台因 AI 所造成的偏見，Rumman Chowdhury 宣布 Twitter 停止自動剪裁圖片，更藉此啟動「演算法公平性計劃」，將透過演算法來評估推文中是否帶有性別和種族偏見，盡力打造可信任的人工智慧。憑藉對於科技的深入理解及對性別、種族歧視的關注， Rumman Chowdhury 將兩者緊密聯結，令偏差性的相關狀況大幅降低，值得大家欣賞。