意見: AI 搭載の自律エージェント「クラスター」は、プラットフォームによる世論操作のリスクを悪化させる可能性がある。
Huoxun Financeは2月20日、Decryptによると、複数の国の大学や研究機関の研究者が*Science*誌に論文を発表し、将来のオンライン「インフルエンス・キャンペーン」は、容易に識別できる単純なボットネットや荒らしアカウントから、人間の介入を最小限に抑えながら協調的に世論を操作できる多数の自律AIエージェントで構成される「スウォーム」へと進化していると警告したと報じた。この研究によると、これらのAIスウォームは人間の行動を模倣し、アカウントやプラットフォーム間でレトリックを適応的に調整し、長期間にわたって特定の物語を継続的に作成できるため、主にスパムや単一ポイントの違反を対象とする既存のリスク管理・モデレーションシステムでは、識別が不可能になるという。研究者たちは、プラットフォームは現在、本人確認、アカウント不正使用の監視、異常な協調行動の透明性と外部監査において重大な欠陥を抱えており、コンテンツモデレーションだけに頼っていては効果的な防御策にはならないと指摘している。