FTCがAIを使って消費者を欺く企業5社を提訴
FTC（Federal Trade Commission：連邦取引委員会）は、AI（人工知能）を欺瞞的かつ不公正な方法で使用した企業5社を提訴した事がロイター通信の報道によって分かった。
FTCは、AIを使って顧客を欺いた5社を提訴。訴訟のうち3件（3社）は、消費者が電子商取引の店頭を通じて受動的な収入を得るのを支援すると主張していた企業に関するもので、AI駆動の電子商取引ソリューションによる潜在的な収益についてユーザーを誤解させたとして、これらの企業の業務を停止した
これらの訴訟は、AIが消費者を誤解させ、既存の法律に違反する可能性に対する規制当局の懸念の高まりを反映。これらの企業は、消費者に誤解を招くような宣伝をし、AIを使って消費者を欺く試みは違法であるとリナ・カーン（Lina Khan）議長は述べたうえで、次のように述べている。
AIツールを使用して人々を騙したり、誤解させたり、欺いたりすることは違法です。FTC の執行措置は、AI が現行法の適用除外ではないことを明確にしています。
特定された3社のうち、FBA Machine、Ecommerce Empire Builders、Ascend Ecomは、オンラインストア向けのAIの助けを借りて、自社が提供しているビジネスが受動的収入を生み出せると述べた。FTCの苦情は、これらの企業が消費者から数百万ドルを騙し取り、約束をほとんど果たさなかったと主張している。
DoNotPay、AI「ロボット弁護士」訴訟でFTCと和解
今回の執行措置には、世界初の“ロボット弁護士”を作成し、最近注目を集めているAI企業のDoNotPayも含まれている。
FTCは、AIを使用したこのサービスは、人間の弁護士なしで法的アドバイスを提供し、ユーザーが暴行訴訟を起こしたり、法的文書を作成したりすることさえ可能にしたと指摘。しかし同社は、同社が作成したAIが人間の法的知識と同じくらい効果的であるという十分な証拠を提供していない。さらに、このサービスは十分にテストされておらず、運営中に資格のある弁護士からのインプットもなかったという。FTC の和解では、DoNotPayが193,000ドル（約2,800万円）を支払うことになっているほか、このサービスを利用した消費者に通知を送ることが条件に含まれており、今後、このようなサービスを代替できるという誤解を招くような広告を禁じられている。
FTC は、AIを使用して消費者レビューを作成するツールを提供しているRytrも追及。このサービスは、無数のレビューを生成する可能性を提供し、その中には問題の製品とは関係のない作り話の情報が頻繁に含まれていたという。これらの偽レビューは潜在的な購入者を誤解させ、オンライン市場を歪める。和解の一環としてRytrは今後、AIが作成したレビューサービスの提供や宣伝も禁止されている。
カーン氏のリーダーシップの下、FTCの措置は、消費者向け産業におけるAIの倫理的使用に対する規制の焦点が高まっていることを浮き彫りにしている。AI技術が普及するにつれて、FTCは技術の複雑さや目新しさに関係なく、企業が既存の法律を遵守することを確実にすることに尽力している。
