OpenAI開始“懸賞”找漏洞，最多獎勵2萬元。
當(dāng)?shù)貢r(shí)間4月11日，OpenAI發(fā)布了一項(xiàng)“漏洞懸賞計(jì)劃（Bug Bounty Program?）”，以鼓勵外界幫其尋找人工智能系統(tǒng)中的漏洞和錯(cuò)誤，獎金最高為2萬美元。
來源：OpenAI
(資料圖)
OpenAI稱，其使命是創(chuàng)建造福所有人類的AI（人工智能）系統(tǒng)，該公司已經(jīng)大力投資研發(fā)，以確保AI系統(tǒng)安全可靠，“然而，與其他復(fù)雜技術(shù)一樣，漏洞和缺陷可能會出現(xiàn)。”
“透明度和協(xié)作（transparency and collaboration）對解決這一問題至關(guān)重要。”O(jiān)penAI寫道，“這也是為什么我們想要邀請全球的安全研究人員、道德黑客和技術(shù)愛好者幫助我們識別和解決系統(tǒng)中的漏洞。我們很樂意為報(bào)告符合條件的漏洞的人提供獎勵。”
OpenAI稱已經(jīng)與漏洞賞金平臺Bugcrowd進(jìn)行了合作，讓其幫忙管理提交和獎勵流程。該公司表示，將根據(jù)對方報(bào)告問題的嚴(yán)重性提供現(xiàn)金獎勵，金額為200美元到2萬美元不等。
這不是OpenAI首次公開提出解決方案。就在上周，該公司發(fā)布題為《我們對于人工智能安全的方法》的文章，表示該公司正致力于“制定針對會威脅人類行為的細(xì)致政策”。
OpenAI介紹了六個(gè)方面的策略，包括構(gòu)建更加安全的系統(tǒng)、從實(shí)際使用中積累經(jīng)驗(yàn)以改進(jìn)安全措施、保護(hù)兒童、尊重隱私、提高事實(shí)準(zhǔn)確性以及持續(xù)研究并參與。
新技術(shù)的安全問題不斷引發(fā)外界的擔(dān)憂。就在上個(gè)月，OpenAI的聊天機(jī)器人ChatGPT出現(xiàn)了用戶對話數(shù)據(jù)和付款服務(wù)支付信息丟失的情況。該公司最終發(fā)布報(bào)告稱，發(fā)生這一意外事件的原因是Redis客戶端開源庫redis-py中存在漏洞。
OpenAI的首席執(zhí)行官Sam Altman隨后也對在推特上道歉，公開承認(rèn)開源庫中出現(xiàn)錯(cuò)誤，并表示已經(jīng)修復(fù)了錯(cuò)誤并完成驗(yàn)證。
但這仍然引起了部分國家監(jiān)管機(jī)構(gòu)的注意。ChatGPT在歐洲地區(qū)遭受“冷遇”。此前3月31日，意大利宣布禁止使用ChatGPT，并限制其開發(fā)公司OpenAI處理意大利用戶信息。隨后，德國、法國和愛爾蘭在內(nèi)的多個(gè)國家也紛紛表示考慮“封禁”該技術(shù)。
對于意大利的禁令，當(dāng)?shù)貢r(shí)間4月5日，OpenAI與意大利個(gè)人數(shù)據(jù)保護(hù)局舉行會議，OpenAI表示愿意與該機(jī)構(gòu)進(jìn)行合作，以解決其對數(shù)據(jù)安全的擔(dān)憂。
