隨著伴侶型AI聊天機器人的產(chǎn)業(yè)不斷擴大，加利福尼亞州于10月13日簽署了一項新法案，旨在對這一新興技術(shù)進行監(jiān)管。加州州長加文·紐森于當(dāng)日正式簽署了參議院第243號法案，這是由州參議員安東尼·帕迪利亞推動的、標(biāo)榜為“全美首創(chuàng)AI聊天機器人保護措施”的立法。

根據(jù)新法，若聊天機器人能讓一名普通用戶誤以為自己正在與真人互動，則開發(fā)者需在界面上發(fā)布“清晰且醒目的聲明”，表明對方僅為AI，并非真人。

法案規(guī)定，從明年起，部分伴侶型聊天機器人平臺運營方還需每年向州自殺預(yù)防辦公室提交報告，闡述其在識別、處理并消除用戶自殺傾向方面所采取的安全措施。相關(guān)數(shù)據(jù)將被公開展示在該辦公室官網(wǎng)。

在簽署此項法案時，紐森表示，諸如聊天機器人與社交媒體等新技術(shù)，既能激發(fā)靈感、促進教育與連接人群，但如果缺乏有效監(jiān)管，也可能誤導(dǎo)、傷害甚至危及青少年安全。“加州必須秉持責(zé)任，持續(xù)引領(lǐng)AI和科技發(fā)展步伐，但兒童安全不容置換。我們每一步都要守護孩子們的安全。”此外，紐森同時簽署了其他幾項針對青少年網(wǎng)絡(luò)安全的法案，包括硬件產(chǎn)品新的年齡檢驗要求等。

本次新規(guī)也是在紐森正式簽署具有里程碑意義的AI透明度法案——參議院第53號法案——之后出臺。AI立法近年來在加州引發(fā)廣泛爭議，備受業(yè)內(nèi)關(guān)注。