被滥用生成色情内容 MCMC即日起禁国人使用Grok
MCMC宣布暂时禁止马来西亚用户使用Grok工具。-路透社-

(布城11日讯)大马通讯及多媒体委员会(MCMC)宣布,从今日起(11日),暂时禁止马来西亚用户使用Grok人工智能(AI)工具。

马新社报导,MCMC发文告指出,采取上述行动是由于Grok多次被滥用,用于生成色情及露骨的性内容。

“尽管已向X Corp. 及xAI LLC采取监管行动,但仍出现极其猥亵和露骨内容,以及未经同意篡改图像,包括涉及女性与儿童的内容 。”

MCMC于1月3日及8日向X Corp.与xAI LLC发出通知,要求采取技术保护措施。

其他要求包括设立有效的内容监管机制,以防止AI生成内容违反马来西亚法律,包括1998年通讯及多媒体法令第233条文。

“然而,X Corp.于1月7日及9日提交的回应,主要集中在用户主动举报机制,未能解决AI工具的设计及运作方式所带来的现有风险。”

因此,MCMC认为有关措施不足以防止危害及确保遵守法律。

“在法律及监管程序进行之际,这次限制使用是必要的防范措施。”

“限制使用Grok将持续,直至有效的防护措施到位,尤其是防止涉及女性及儿童的内容。”

MCMC仍愿意与X Corp.及xAI LLC交流,只要能够证明其遵守我国法律。

文告也呼吁公众,若发现有害网络内容,应立即向MCMC举报,若有必要也可向警方报案。

相关文章