隨著伴侶型AI聊天機器人的產業不斷擴大，加利福尼亞州于10月13日簽署了一項新法案，旨在對這一新興技術進行監管。加州州長加文·紐森于當日正式簽署了參議院第243號法案，這是由州參議員安東尼·帕迪利亞推動的、標榜為“全美首創AI聊天機器人保護措施”的立法。

根據新法，若聊天機器人能讓一名普通用戶誤以為自己正在與真人互動，則開發者需在界面上發布“清晰且醒目的聲明”，表明對方僅為AI，并非真人。

法案規定，從明年起，部分伴侶型聊天機器人平臺運營方還需每年向州自殺預防辦公室提交報告，闡述其在識別、處理并消除用戶自殺傾向方面所采取的安全措施。相關數據將被公開展示在該辦公室官網。

在簽署此項法案時，紐森表示，諸如聊天機器人與社交媒體等新技術，既能激發靈感、促進教育與連接人群，但如果缺乏有效監管，也可能誤導、傷害甚至危及青少年安全。“加州必須秉持責任，持續引領AI和科技發展步伐，但兒童安全不容置換。我們每一步都要守護孩子們的安全。”此外，紐森同時簽署了其他幾項針對青少年網絡安全的法案，包括硬件產品新的年齡檢驗要求等。

本次新規也是在紐森正式簽署具有里程碑意義的AI透明度法案——參議院第53號法案——之后出臺。AI立法近年來在加州引發廣泛爭議，備受業內關注。