每經(jīng)編輯｜程鵬    

印尼與馬來西亞日前相繼宣布，暫時封禁美國企業(yè)家埃隆·馬斯克旗下的人工智能聊天機器人“格羅克（Grok）”，因為擔心它被用于生成色情內(nèi)容。

綜合央視新聞、新華社、澎湃新聞報道，當?shù)貢r間10日，印度尼西亞通信和數(shù)字事務(wù)部長表示，由于擔心人工智能會生成色情內(nèi)容，該國暫時封禁了美國企業(yè)家埃隆·馬斯克旗下人工智能企業(yè)xAI的聊天機器人“格羅克（Grok）”，成為第一個拒絕訪問該人工智能工具的國家。

印尼通信和數(shù)字事務(wù)部長10日在一份聲明中表示，此舉對于保護公眾免受人工智能生成的露骨圖像所帶來的危害是必要的，并要求馬斯克旗下的社交媒體X平臺就“格羅克”所引發(fā)的負面影響盡快作出說明。

緊隨其后，馬來西亞通訊及多媒體委員會11日發(fā)布聲明，暫時禁止該國用戶訪問格羅克，因為格羅克被反復(fù)濫用來生成色情內(nèi)容、露骨的性內(nèi)容、極度冒犯且不雅的內(nèi)容，以及在未經(jīng)同意的情況下生成被操縱的圖像。

馬來西亞律師阿齊拉·阿齊茲告訴媒體記者，若只是出于娛樂目的，“用AI給公眾人物頭像加個墨鏡之類的倒也無可厚非”，但未經(jīng)當事人同意，“利用AI對婦女兒童實施與性別相關(guān)的暴力，必須堅決反對”。

xAI 已將格羅克整合進社交平臺X，X用戶可直接調(diào)用該聊天機器人。而印尼是全球X用戶數(shù)量第三多的國家。印尼政府在一份聲明中表示，“未經(jīng)同意的、性化的深度偽造行為嚴重侵犯了公民在數(shù)字空間中的人權(quán)、尊嚴和安全。

格羅克由馬斯克旗下的人工智能公司xAI 公司開發(fā)，去年8月推出AI工具Grok Imagine，可根據(jù)文字提示或上傳圖片編輯生成AI圖像，繼而轉(zhuǎn)化為短視頻內(nèi)容。近期，X平臺出現(xiàn)部分用戶利用“格羅克”編輯圖片和視頻的現(xiàn)象，一些用戶借此生成真實人物的虛假性暴露內(nèi)容，并在X平臺上散播，受害者包括數(shù)百名成年女性和未成年人。

這一亂象隨即引起公憤。歐盟委員會負責數(shù)字經(jīng)濟事務(wù)的發(fā)言人托馬斯·雷尼耶5日回應(yīng)說，正“嚴肅調(diào)查”針對“格羅克”的相關(guān)投訴?！啊窳_克’推出所謂‘熱辣模式’，不僅展示露骨性內(nèi)容，部分生成內(nèi)容還帶有兒童特征?！?/span>

他也進一步炮轟稱：“這不是’辣味’，這是違法的。這是令人震驚、令人作嘔的。這就是我們的看法，這樣的內(nèi)容在歐洲沒有任何立足之地。”

同一天，英國網(wǎng)絡(luò)安全監(jiān)管機構(gòu)通信管理局表示，注意到用戶對上述功能的擔憂，“已緊急聯(lián)系X（平臺）和xAI，以了解它們在履行保護英國用戶的法定義務(wù)方面具體采取了哪些措施”，之后將根據(jù)回復(fù)，判定它們是否存在“值得調(diào)查的潛在合規(guī)問題”。

據(jù)參考消息援引新加坡《聯(lián)合早報》網(wǎng)站1月11日報道，英國加大威脅稱，可能因人工智能工具格羅克生成色情圖像而封鎖社交平臺X。對此，馬斯克發(fā)文指責英國政府。

負責向執(zhí)法機構(gòu)舉報網(wǎng)絡(luò)兒童性虐待材料的英國監(jiān)管機構(gòu)指出，他們在暗網(wǎng)上發(fā)現(xiàn)據(jù)稱由格羅克生成的“犯罪”圖片?；ヂ?lián)網(wǎng)觀察基金會說，暗網(wǎng)上涉及未成年女性的色情圖片，已達到執(zhí)法部門采取行動的標準。

英國首相斯塔默本周早些時候誓言采取行動，要求X平臺就這些色情圖片“立即整頓”。

英國科技大臣肯德爾9日發(fā)聲明說，媒體監(jiān)管機構(gòu)應(yīng)動用“全部法律權(quán)力”，并警告稱，如果X平臺拒絕遵守英國法律，政府可以“阻止英國境內(nèi)民眾訪問X平臺”。

懲罰X平臺可能會激怒美國政府，此前美國政府曾威脅要對歐盟等組織采取報復(fù)措施，以阻止它們限制美國科技巨頭的權(quán)力。

不過，英國副首相戴維·拉米指出，他本周早些時候已與美國副總統(tǒng)萬斯討論過這起事件，萬斯對這項技術(shù)的使用方式表示擔憂。

另據(jù)印度媒體報道，印度信息技術(shù)部2日要求X平臺刪除色情內(nèi)容、打擊違規(guī)用戶，并在72小時內(nèi)提交“整改報告”，否則將面臨法律制裁。截至目前，尚不清楚X平臺是否已就印方要求作出回應(yīng)。

多名法國政府部長和國民議會議員2日也向法國司法部門報案。當日晚些時候，巴黎檢方表示，將啟動相關(guān)調(diào)查。

歐盟委員會發(fā)言人托馬斯·雷尼耶1月8日表示，歐盟委員會已責令美國社交媒體平臺X保留其內(nèi)置聊天機器人“格羅克（Grok）”相關(guān)的全部內(nèi)部文件和數(shù)據(jù)，直至2026年年底。雷尼耶說，歐盟委員會“嚴肅對待”這一問題，并已決定延長2025年向X平臺發(fā)出的“資料保留”要求。該要求此前主要涉及平臺算法相關(guān)信息以及非法內(nèi)容的傳播與擴散情況等。

X平臺于1月4日就相關(guān)爭議回應(yīng)稱，將對平臺上的非法內(nèi)容采取行動，包括刪除相關(guān)內(nèi)容、永久封禁賬號，并在必要時與當?shù)卣蛨?zhí)法部門合作。馬斯克1月3日發(fā)帖表示，任何使用“格羅克”制作非法內(nèi)容的人，都將面臨與上傳非法內(nèi)容相同的后果。

另外，為應(yīng)對批評，xAI于1月9日宣布，將格羅克在社交媒體平臺X上的圖像生成功能，限制為僅向付費訂閱用戶開放。不過，獨立運行的格羅克應(yīng)用程序仍允許用戶在無需訂閱的情況下生成圖像。

編輯|程鵬 杜恒峰

校對|許紹航

封面圖片來源：視覺中國（資料圖 圖文無關(guān)）

每日經(jīng)濟新聞綜合自央視新聞、新華社、參考消息、澎湃新聞、科創(chuàng)板日報