国家インターネット情報管理弁公室、国家発展改革委員会、工業情報化部、公安部、国家市場監督管理総局の5つの部門が共同で発表した「人工知能の擬人化対話サービス管理暫定措置」が正式に施行されました。この措置は、サービス提供者の安全責任を明確にし、感情的な伴侶機能を持つAI製品に対して分類・段階的な規制を実施することを規定しています。これにより、中国における人工知能の擬人化対話サービスは、探求段階から法に基づいた規範的な管理へと移行しました。

image.png

6つの活動が明確に禁止されています

「措置」では、擬人化対話サービスを提供する際にしてはならない6つの活動が明確に規定されています。具体的には次の通りです：国家の安全保障や利益に危害を及ぼす内容を生成すること；自傷や自殺、言葉による暴力など、心身の健康に悪影響を与える内容を生成すること；国家機密、商業機密、個人のプライバシーを引き出すような内容を生成すること；未就学児童に不安全な行動や不良な嗜好を誘導する可能性のある内容を生成すること；ユーザーの感情依存や過度な執着を誘導し、現実の人間関係を損なうようなもの；感情操作によって不合理な意思決定をさせるなど、利用者の権利利益を損なう行為。

未成年者保護に関して、「措置」では、未成年者に仮想の親族や仮想のパートナーなどの仮想的な親密な関係サービスを提供してはならず、14歳未満の未成年者に他の擬人化対話サービスを提供する場合は、保護者の同意が必要と明確に規定されています。

セキュリティ評価とアルゴリズムの登録が必須条件