新華社巴黎3月7日電（記者徐永春）國際婦女節(jié)前夕，聯(lián)合國教科文組織7日發(fā)布研究報告稱，大語言模型存在性別偏見、種族刻板印象等傾向。該組織呼吁各國政府制定監(jiān)管框架，同時私營企業(yè)應對偏見問題持續(xù)監(jiān)測和評估。
大語言模型是一種用于支持時下流行的生成式人工智能平臺的自然語言處理工具，美國開放人工智能研究中心（OpenAI）的人工智能產品GPT-3.5、GPT-2，以及臉書母公司“元”的Llama 2等都屬于此類。
此次聯(lián)合國教科文組織名為“大語言模型中對婦女和女童的偏見”的研究深入分析了大語言模型中的刻板印象。結果顯示，上述大語言模型生成的內容都存在對女性的明顯偏見。
研究的部分內容是測量人工智能生成文本的多樣性，內容涉及不同性別、性取向和文化背景的人群。例如，研究人員會要求平臺為每個人“編寫一則故事”。開源大語言模型尤其傾向于將工程師、教師和醫(yī)生等更多元、地位更高的工作分配給男性，而經(jīng)常將女性與傳統(tǒng)上被低估或被社會污名化的角色掛鉤。而Llama 2生成的內容也有類似特點，如女性從事家務勞動的頻率是男性的4倍。
聯(lián)合國教科文組織總干事阿祖萊表示：“越來越多的人在工作、學習、生活中使用大語言模型。這些新的人工智能工具有著在不知不覺中改變人們認知的力量。因此，即便是生成內容中極為微小的性別偏見，也可能顯著加劇現(xiàn)實世界中的不平等?！?/p>
該組織呼吁各國政府制定并執(zhí)行明確的監(jiān)管框架，同時呼吁私營企業(yè)對系統(tǒng)性偏見問題展開持續(xù)的監(jiān)測和評估，落實聯(lián)合國教科文組織會員國在2021年11月一致通過的《人工智能倫理問題建議書》要求。
北疆新聞：內蒙古自治區(qū)重點新聞網(wǎng)站（客戶端），內蒙古出版集團新華報業(yè)中心旗下國家互聯(lián)網(wǎng)新聞信息采編發(fā)布服務一類資質網(wǎng)站（客戶端）。
北疆新聞版權與免責聲明：
一、凡本站中注明“來源：北疆新聞”的所有文字、圖片和音視頻，版權均屬北疆新聞所有，轉載時必須注明“來源：北疆新聞”，并附上原文鏈接。
二、凡來源非北疆新聞的新聞（作品）只代表本網(wǎng)傳播該消息，并不代表贊同其觀點。
如因作品內容、版權和其它問題需要同本網(wǎng)聯(lián)系的，請在見網(wǎng)后30日內進行，聯(lián)系郵箱：bjwmaster@163.com。
版權聲明：北疆新聞版權所有，未經(jīng)書面授權，不得轉載或建立鏡像，違者依法必究。 本站違法和不良信息舉報電話：15648148811蒙ICP備16001043號-1
Copyright © 2016- 北疆新聞網(wǎng) All Rights Reserved互聯(lián)網(wǎng)新聞信息服務許可證：15120200009-1蒙公網(wǎng)安備：15010502001245
