馬斯克們的擔憂并非空穴來風？大型科技公司裁減了AI倫理團隊
分類: 最新資訊
簽名詞典
編輯 : 簽名大全
發布 : 03-30
閱讀 :239
大型科技公司一直在裁減致力于評估部署AI相關倫理問題的團隊員工，這使人們對這項新技術的安全性更加擔憂。近日，據媒體報道，微軟、Meta、谷歌、亞馬遜和推特等公司都裁減了其“負責任的人工智能團隊”（Responsible AI）的成員，這些團隊負責為使用AI的消費產品提供安全建議。被裁減的員工大概有幾十人，在因整個科技行業低迷而被裁掉的數萬名員工中，這只是冰山一角。但是在AI高速發展的當下，這么多相關員工被解雇依然令業內人士感到震驚和不解。這些公司表示，他們將繼續致力于推出安全的AI產品。但專家認為，裁員仍令人擔憂，因為就在全球開始測試大型AI工具之際，對這項技術的潛在濫用也在漸漸暴露出來。隨著OpenAI推出的聊天機器人ChatGPT在全球大熱，他們的擔憂也越來越強烈。Alphabet 旗下 DeepMind 的前倫理和政策研究員、研究機構 Ada Lovelace Institute 副主任 Andrew Strait 向媒體表示：令人震驚的是，在比以往任何時候都需要這樣的團隊的時候，有這么多相關員工被解雇。微軟、推特、亞馬遜等公司相繼行動今年1月，在微軟的萬人級別大裁員行動中，該公司解散了其所有的倫理道德與社會團隊。微軟表示，此次裁員不到10個人，仍有數百人在AI辦公室工作。微軟首席負責人工智能官 Natasha Crampton 稱：我們已經大大增加了我們負責的AI工作，并努力在全公司范圍內將其制度化。在馬斯克的領導下，推特裁掉了超過一半的員工，其中包括一個小型的道德AI團隊。該團隊過去的工作包括修正推特算法中的偏差，例如該算法在選擇裁剪社交網絡上的圖像時似乎更傾向于留下白人的面孔。據媒體援引知情人士透露，亞馬遜旗下的流媒體平臺 Twitch 上周也裁減了其道德AI團隊，要求所有從事AI產品開發的團隊都要對與AI偏見相關的問題負責。今年9月，Meta解散了其創新團隊，該團隊由約20名工程師和倫理學家組成，負責評估 Instagram 和 Facebook 上的公民權利和道德規范。Facebook前AI倫理研究員 Josh Simons 向媒體表示：AI團隊是大型科技公司唯一的內部堡壘，必須確保構建AI系統的工程師考慮到受AI系統影響的人和社區。它們被廢除的速度讓大型科技公司的算法受制于廣告需求，損害了兒童、弱勢群體和我們民主的福祉。另據知情人士透露，作為 Alphabet 整體裁員計劃的一部分，谷歌一些負責AI道德監管的員工也被解雇了。谷歌沒有具體說明有多少員工被削減，但表示AI仍是公司的首要任務，“我們將繼續投資于這些團隊”。此前，谷歌內部已經出現過關于AI技術的發展、影響和安全性之間的緊張關系。兩位AI倫理研究負責人 Timnit Gebru 和 Margaret Mitchell 在與該公司爆發了一場激烈爭吵后，分別于2020年和2021年離職。Strait 表示：當負責任的人工智能實踐在競爭或推動市場時，卻被排除在外，這是有問題的。而不幸的是，我現在看到的正是這種情況。邪惡的AI？一個重要擔憂是，ChatGPT等聊天機器人的大型語言模型會“創造幻覺”，即它們會做出虛假陳述并將其包裝成事實，可用于傳播虛假信息和考試作弊等目的。另外，AI自身潛在的高速進化也讓企業家和科學家們“警鈴大作”。華爾街見聞此前提及，3月22日，生命未來研究所向全社會發布了一封《暫停大型人工智能研究》的公開信，呼吁所有人工智能實驗室立即暫停比GPT-4更強大的人工智能系統的訓練，暫停時間至少為6個月。而截止目前，圖靈獎得主Yoshua Bengio、馬斯克、蘋果聯合創始人Steve Wozniak、Stability AI 創始人Emad Mostaque等上千名科技大佬和AI專家已經簽署公開信。倫敦國王學院AI研究所主任 Michael Luck 向媒體表示：我們開始看到的是，我們無法完全預測這些新技術將會發生的所有事情，關鍵是我們要對它們給予一定的關注。AI內部倫理團隊的角色也受到了審查，因為有議論稱，人類對算法的任何干預是否應該增加透明度，聽取公眾和監管機構的意見。2020年，Meta旗下的 Instagram 成立了一個團隊“IG Equity”，以解決其平臺上的算法正義問題。該團隊希望對 Instagram 的算法進行調整，以加強對種族的討論，突出邊緣化人群的形象。Simons 認為，相關工程師們能夠干預并改變這些制度和偏見，并探索能夠促進公平的技術干預措施，但他們不應該決定社會應該如何被塑造。