インドがディープフェイク規制に踏み出す
インドのアシュウィニ・ヴァイシュナウ（Ashwini Vaishnaw）鉄道・通信・電子・情報技術大臣は2023年11月23日（木曜日）、ディープフェイクを規制するための規制を策定していると述べた事が分かった。
この声明は、テクノロジーに対する懸念に関するナレンドラ・モディ（Narendra Modi）首相の前日の発言を踏まえたもので、規制枠組みは今後数週間以内に最終決定される予定であり、ソーシャルメディアプラットフォームとユーザーの両方に対する罰則も検討されるとのこと。大手メディアロイター通信によると、学者、業界団体、ソーシャルメディア企業との会話における同大臣の発言によると、インド政府は今後数週間以内に規制草案の作成を完了する予定という。
ディープフェイクとは、AI（人工知能）によって作成された音声またはビデオの記録を指しており、信頼性を保ちながら、既存のビデオまたはオーディオサンプルから個人の声や外見を複製または置き換えているものの事である。
人工知能に対する各国の懸念と対応
G20バーチャルサミットの開会の挨拶の中で、モディ首相はディープフェイクによる社会への悪影響を警告し、世界の指導者らに人工知能の規制に協力するよう訴えている。
同大臣の報告書によると、規制草案作成プロセスではソーシャルメディアプラットフォームとコンテンツをアップロードしたユーザーの両方に対する罰則が考慮されるという。この出来事は、人工知能を管理する規制を確立しようとする各国による世界的な闘争と時を同じくしており、まさにリアルタイムな規制へとインドが世界に先駆けて規制していくこととなる。
米国のジョー・バイデン（Joe Biden）大統領は2023年10月、米国の経済、公衆衛生、国家安全保障、または安全を危険にさらす可能性のある人工知能システムの開発者に対し、安全性試験の結果を政府機関に開示するよう義務付ける大統領令を発令。また、欧州の議員らは翌月の承認に向けた規則案を起草しており、国連は人工知能におけるガバナンスの課題に対処するため39人のメンバーからなる諮問機関を設立。カナダの主要国家情報機関であるカナダ安全保障情報局は11月、世界規模で実施された偽情報キャンペーンにおけるAIディープフェイクの利用について懸念を表明している。
ネットワーク安全局のスン・ジンフェン（Jinfeng Sun）政治委員は8月、デジタル顔交換によるなりすましなど、ディープフェイクAIを利用した詐欺事件が79件中国で発生したと明らかにしている。その結果、Web3分野に関連して515人が逮捕されるなど、急激に悪意を持ったものによる事件も急増している。
