3月14日消息,美國當地時間周一,微軟被曝解散了其整個AI風險評估團隊。據悉,這個團隊正式名稱為AI道德與社會團隊,其主要職能在于指導微軟在AI方面的創(chuàng)新,從而產生符合道德標準、負責任以及可持續(xù)的結果。最近,該團隊始終在努力評估微軟將Ope
3月14日消息,美國當地時間周一,微軟被曝解散了其整個AI風險評估團隊。據悉,這個團隊正式名稱為AI道德與社會團隊,其主要職能在于指導微軟在AI方面的創(chuàng)新,從而產生符合道德標準、負責任以及可持續(xù)的結果。最近,該團隊始終在努力評估微軟將OpenAI技術整合到其產品中可能存在的風險。
多位微軟離職和在職員工表示,此舉導致微軟將再也沒有專門的團隊來確保其AI原則與產品設計緊密結合,而目前該公司正在引領潮流,努力讓AI工具成為主流。不過,微軟仍然保留著名為負責任AI辦公室(ORA)的團隊,其任務是制定規(guī)則來管理公司的AI計劃。微軟表示,盡管最近進行了裁員,但其在責任工作方面的整體投資始終在增加。
微軟在一份聲明中表示:“微軟致力于以安全、負責任的態(tài)度開發(fā)AI產品和體驗,并通過投資于優(yōu)先考慮這些因素的人員、流程和合作伙伴來實現該目標。在過去的六年里,我們增加了產品團隊和ORA的人員數量,他們與微軟的所有人一起,負責確保我們將AI原則付諸實踐。我們感謝道德與社會團隊所做的開創(chuàng)性工作,幫助我們繼續(xù)完成負責任AI之旅?!?/p>
微軟員工透露,在確保公司產品和服務符合負責任AI原則方面,道德和社會團隊發(fā)揮了關鍵作用。一位離職員工表示:“人們看到ORA提出的原則卻不知道如何運用,而我們的工作就是向他們展示,并在缺乏規(guī)則的領域制定規(guī)則?!?/p>
近年來,該團隊設計了名為《Judgment Call》的角色扮演游戲,幫助設計師設想AI可能帶來的潛在危害,并在產品開發(fā)過程中進行討論。道德和社會團隊在2020年達到了最大規(guī)模,當時有大約30名員工,包括工程師、設計師和哲學家。但在去年的重組過程中,該團隊被削減至只剩7人。
在重組后的一次團隊會議上,微軟AI業(yè)務副總裁約翰·蒙哥馬利(John Montgomery)表示,公司管理層已經指示他們迅速行動。據悉,蒙哥馬利當時說:“來自首席技術官凱文·斯科特(Kevin Scott)和首席執(zhí)行官薩蒂亞·納德拉(Satya Nadella)的壓力非常大,他們都要求加速將OpenAI模型和后續(xù)模型送到客戶手中?!?/p>
蒙哥馬利說,由于這種壓力,道德和社會團隊中的許多人將被轉移到公司的其他業(yè)務。當時,蒙哥馬利稱該團隊不會被淘汰,而是需要將“更多精力放在構建服務和軟件的單個產品團隊上”。隨后,該團隊多數成員都被調到其他部門,剩余人員則因為人員不足,促使許多雄心勃勃的計劃再也難以實施。
大約五個月后,剩下的員工被告知整個團隊最終被解散。一名員工表示,此舉在AI產品的用戶體驗和整體設計方面留下了巨大漏洞。他們解釋說:“最糟糕的是,我們這樣做讓企業(yè)面臨風險,人類陷入風險之中。”
道德與社會團隊的成員表示,他們通常會努力支持產品開發(fā)。但隨著微軟開始專注于比競爭對手更快地推出AI工具,公司管理層對該團隊所專注的那種長期考慮不再那么感興趣。
就在道德與社會團隊被解散之際,其他人正將注意力放在預測微軟向全球觀眾發(fā)布OpenAI支持的AI工具時產生的影響。在去年的備忘錄中,道德與社會團隊詳細說明了與必應圖像創(chuàng)建器相關的風險,該工具使用OpenAI的Dall-E系統(tǒng)根據文本提示創(chuàng)建圖像。這款圖像工具于10月份在幾個國家推出,使其成為微軟與OpenAI的首批公開合作之一。
雖然文字轉圖像的技術已經被證明非常受歡迎,但微軟的研究人員準確地預測到,它也可能威脅到藝術家的生計,因為它允許任何人輕松**藝術家的創(chuàng)作風格。此外,OpenAI更新了其服務條款,賦予用戶“使用Dall-E創(chuàng)建圖像的完全所有權”,這讓微軟道德和社會團隊感到擔憂。
本文由小編網絡轉載而成,原文來源:http://www.techweb.com.cn/it/2023-03-14/2922525.shtml,如有侵權,請聯系刪除
原創(chuàng)文章,作者:小編,如若轉載,請注明出處:http://www.xiesong.cn/134463.html