自Open AI推出ChatGPT大模型以來，AI大模型進入到公眾視野，探討熱度飆升，百度、騰訊、阿里等互聯網巨頭也紛紛公布了其對AI大模型的投資與布局路線圖。
然而，在一片火熱中，也有不少科技巨頭表達了對AI大模型的擔憂。利用人工智能寫論文、制作虛假圖片……在給人類帶來便利的同時，“稚嫩”的人工智能技術也暴露出許多安全隱患問題。據媒體報道，被譽為“人工智能教父”的杰弗里·辛頓已從谷歌辭職，只為完全自由地談論AI大模型等人工智能技術所帶來的危險。
狂野生長的AI大模型，真的管不住了嗎？來自美國卡內基梅隆大學語言技術研究所、國際商業機器公司研究院等機構的研究人員提出了一種全新的方法——自對齊。該方法結合了原則驅動式推理和大模型的生成能力，從而使用極少的人類監督便能實現AI大模型的“自我監管”。
【資料圖】
和人類價值觀“對齊”
目前，即便是最先進的AI大模型，也無法實現自我監管，仍需要依賴人類指令以及注釋進行相應的調整。
“生成式人工智能可以被看作一個預測工具，它主要依靠大量數據樣本來預測正確答案。”清華大學交叉信息研究院助理教授、人工智能國際學術交流項目主任于洋表示，所有基于數據統計的人工智能模型，對于“答案”的預測都必然有一定的隨機性，而這種隨機性所產生的偏差一旦與人類價值觀、倫理觀、道德觀以及法律法規等相悖，就需要對該模型進行監管、完善。計算科學工作者致力于消除這類偏差，盡量使之與人類的價值觀、倫理、法律、公序良俗等相符，這被稱為“對齊”。
然而，從統計學的角度看，AI大模型一定會“犯錯”。因此，AI模型對齊的監管，不應追求獲得一個不犯錯的完美AI大模型，而是要管理AI大模型產生違規錯誤的風險。“例如，對話類AI大模型在其對話中，是否會大量出現針對某個地區的地域歧視。”于洋舉例道，對于AI大模型的監管，就是為了避免這類內容出現的概率過高、避免模型的答案系統性發生整體傾向這類偏誤。
然而，如果AI大模型嚴重依賴人類監督，會造成成本過高、可靠性不足、存在偏向性等問題。因此，以最少的人類監督實現AI大模型的自我監督成為構建AI大模型的關鍵。
為了解決這一難題，研究人員提出了一種自對齊的新方法，僅需一個人工定義的小型原則集（規則），便能引導AI大模型生成答復的正確導向，且能顯著減少對人類監督的需求，使其幾乎無需任何額外注釋。AI大模型可以自對齊的設計目標是開發出有用、可靠且符合人類道德觀念的AI大模型，包括在生成答案時可以反對用戶的有害詢問，并且為表示反對的背后原因提供解釋。
值得一提的是，此前一些AI大模型至少需要5萬條注釋，而整個自對齊過程所需的注釋量少于300行，監督效率非常高，極大地降低了AI大模型對人類監管工作的需求。
把“打罵”變為“講道理”
那么，未來AI大模型是否可以實現完全的自我監管？于洋表示，AI大模型監管的主要方式必然是自動化、機器化、算法化的，因為AI大模型依賴海量數據支撐，僅憑人工監管是不現實的。但完全的自我監督不太可能實現，這是因為即使AI學會了相應的人類規則，但它和人類所掌握的規則數量仍然無法比較。同時，人類的思維以及邏輯推理過程具有極高的復雜性，也是AI大模型難以真正“理解”人類的原因之一。
于洋舉了個例子，現在的AI大模型監管就好比教育孩子，現有的人工對齊技術方案，其實都是在“打罵”孩子，也就是用獎勵和懲罰的方式訓練AI什么能做、什么不能做。而真正的教育，是要對孩子講道理，了解為什么有些事情不能做，即要讓AI理解背后的邏輯，理解人類的評判標準。這是一件很難的事情，目前大多數的AI大模型的訓練和對齊技術的開發，還停留在“打罵”階段，要從“打罵”變成“講道理”，還有很長的路要走。
“除了技術人員開發教育AI合規的技術外，監管當局也必須制度化、系統化地從社會合規和社會影響等方面對AI大模型進行多維度的審計和監管。”于洋進一步解釋道，相關行業及管理部門，需要對AI大模型違背人類價值的概率，有一個系統化的評估，并根據AI大模型相關產業的發展現狀，調整監管手段，有針對性地提出監管方案，建立動態、敏捷響應技術前沿變化的監管體系。企業也要建立專門針對AI大模型的監管部門，來審核AI大模型中是否包含自我監管機制，以及具體到每一個模塊將帶來哪些影響，以此盡量降低AI模型的違規風險。
此外，于洋還建議，人工智能的治理，也需要大量的公眾參與，因為和訓練模型尋找漏洞相比，在大量應用實踐中去發現漏洞、完善AI大模型，顯然更加高效，也能顯著降低AI大模型開發成本，推動AI大模型在各行各業的廣泛應用。
樂活HOT
-
世界消息！2023東莞義務教育民辦
東莞市教育局東莞市財政局民辦義務教育學位補貼實施辦法為進一步落實國家進城務工人員隨遷子女 "兩為主、兩
-
機頂盒遙控器按了電視沒反應_機
現在大家基本都是通過機頂盒看電視。安裝機頂盒后，你家可以接收40、50甚至更多電視臺的電視信號。第一次使
-
微軟收購動視暴雪：法院駁回玩家
【ITBEAR科技資訊】5月23日消息，美國聯邦法官近日駁回了一批玩家阻止微軟收購動視暴雪的請求。這些玩家擔
-
天天簡訊:@老年人 到2025年，國
5月21日，中辦、國辦印發《關于推進基本養老服務體系建設的意見》，并首次公布《國家基本養老服務清單》，
-
神舟十六號計劃近日擇機實施發射
【新華社酒泉5月22日電】記者從中國載人航天工程辦公室了解到，5月22日，神舟十六號載人飛船與長征二號F遙
-
瘠怎么讀（瘠）
1、瘠jí(形聲。2、從疒(chuáng),表示與疾病有關,脊聲。3、本義:身體瘦弱)同本義。4、或作“膌”[lean;thinandweak;wi
-
【全球時快訊】明天新股上市一覽
明天新股上市一覽（5月24日）,星期三，共有2只新股上市，為深交所主板三聯鍛造、科創板航天軟件。三聯鍛造
-
西北油田天然氣日產量超千萬立方
中國石化新聞網訊 記者王福全 通訊員 徐鑫報道：今年以來，西北油田全力推動增儲上產，提高油氣供給
-
今天打開個稅APP，我直接人麻了！
點擊上方“碼農突圍”，馬上關注這里是碼農充電第一站，回復“666”，獲取一份專屬大禮包真愛，請設置“星
-
穿越火線單機版破解版下載安裝_
1、注冊碼CD-KEY:5RP2E-EPH3K-BR3LG-KMGTE-FN8PY5ZN2F-C6N
-
廣州外國語學校南沙校區是初中還
1、樓主你別聽一樓那位。2、我是廣州外國語學校的學生。3、那里的校風算是比較嚴，錄取分很高，特別是高中
-
三國殺卡牌模板編輯器_三國殺卡
1、1 下載太陽神三國殺，內附帶三國殺武將編輯器，可以編輯四個勢力的任何武將。2、(易操控，資源少)獲得方
-
世界微頭條丨社會矛盾糾紛有哪些
1、西方的窮人與富人之間的差距也是比較大的,,也存在許多的社會矛盾 但是西方國家的社會分層與社會財富的分
-
土雞蛋 價格 土雞蛋價格行情
今天來聊聊關于土雞蛋，價格，土雞蛋價格行情的文章，現在就為大家來簡單介紹下土雞蛋，價格，土雞蛋價格行
-
四世同堂海狗鞭膠囊功效_吃四世
想必現在有很多小伙伴對于吃四世同堂海狗鞭好嗎有用嗎方面的知識都比較想要了解，那么今天小好小編就為大家
娛樂LOVE
安徽安慶市正式成立“老年助餐慈善基
記者日前從安慶市民政局獲悉，該市慈善會近日設立老年助餐慈善基金，共同守護老年人舌尖上的幸福。該基金專項用于資助城鄉社區老年食堂、社
安徽淮北積極落實2022年電網防汛度汛
近日，國網淮北供電公司工作人員來到110千伏中泰變電站開展防汛隱患排查。該公司積極落實2022年防汛度汛措施，提前細化應急預案，推進極端
安徽全椒縣完善拓展人力信息資源助企
今年以來，全椒縣不斷完善拓展人力資源信息庫、勞務對接信息庫、企業用工需求信息庫三庫信息資源，已摸排400多家次企業缺工崗位信息1 2萬個
宿州市埇橋區柔性引進博士推進鄉村振
宿州市埇橋區實施博士匯工程，柔性引進29名博士擔任副鄉鎮長或園區副主任，他們將為加快產業發展、推進鄉村振興強化智力支持。目前，博士專
安徽印發出臺全面實施零基預算改革方
為進一步提高財政資源配置效率和資金使用效益，省政府印發《安徽省全面實施零基預算改革方案》，明確從編制2023年預算起，在全省范圍內全面
5月份安徽居民消費價格同比上漲2.3%
近日,國家統計局安徽調查總隊發布了我省5月份居民消費價格統計數據。統計顯示,我省居民消費價格同比上漲2 3%,同比漲幅比上月回落0 4個百分
安徽多種方式引導群眾防范非法集資風
合肥地鐵1號線、3號線上滾動播放防范非法集資宣傳視頻,淮南市發布《致老年群眾的一封信》……6月份是一年一度防范和處置非法集資宣傳月,今
鐵路部門持續加大長三角地區運力投放
記者從中國鐵路上海局集團有限公司獲悉,隨著上海疫情防控形勢持續向好,為進一步適應旅客出行需要,助力復工復產,鐵路部門自6月10日起持續加
安徽六安持續精準施策全力促進工業發
六安市與蔚來汽車簽署合作協議,共建智能電動汽車零部件配套產業園區。該園區一期計劃2023年上半年投產,建成后將具備年產30萬噸鋁壓鑄產能,
安徽淮北全力維護外賣送餐員合法權益
為切實防范化解新業態領域重大風險隱患,強化外賣送餐員權益保障工作,淮北市市場監管局充分發揮職能作用,全力維護外賣送餐員合法權益。淮北
湖南漣源開展專項行動一對一為企業紓
位于漣源市的湖南三合美新材料科技有限公司，兩條生產線滿負荷運行，生產聚氨酯和巖棉復合板。因產品升級與產能擴充，急需新增兩條生產線，
湖南藍山縣進村入戶排查整治自建房安
老叔，這棟房屋墻體有開裂痕跡，要維修加固，安全重要!5月20日，藍山縣塔峰鎮果木村，黨員干部上門開展農村自建房安全隱患排查整治。連日來
一季度湖南萬元產值綜合能耗同比下降
近日，湖南省工業通信業節能監察中心發布一季度全省六大高耗能行業能源消耗統計監測報告。據該報告，一季度全省146家主要高耗能企業的萬元
濟南起步區一年來累計簽約優質項目11
萬里黃河第一隧濟南黃河濟濼路隧道建成通車，占地4000余畝的新能源乘用車零部件產業園加快施工……記者21日采訪獲悉，建設實施方案獲批復一
山東發布通知啟動傳統民居保護利用試
省住房城鄉建設廳、省財政廳近日聯合印發《關于做好傳統民居保護利用試點工作的通知》，在全省部署開展傳統民居保護利用試點工作。此次試點