【噂】Xboxパーティチャット、有害な言葉を検出するAIを導入するかもしれません。

現在マイクロソフトは多くの分野にAIを取り入れていますが、Xboxも例外ではありません。Xboxのパーティチャット機能にAIによる有害な単語の検出機能が導入されるかもしれないという報告があります。

AIの導入でゲームを安全に

マイクロソフトが公開した第4回透明性報告書では、ゲームの安全性におけるAIの最新応用例を明らかにしました。既にコミュニティのテキストチャットで導入されており、有害な会話のパターンをAIが自動的にラベリングし、コミュニティモデレーターが報告を確認するのに役立てているとのこと。

また画像についてもAIのマッチングテクノロジーによって有害なコンテンツを迅速に削除することが可能になったようです。

そして最近導入された「ボイスレポート」機能によって音声による攻撃についても報告可能になっており、これについてもAIが導入されるのではないかとmspoweruserは述べています。

音声のフィルタリングは以前からテスト中

マイクロソフトはAIによるボイスチャットのフィルタリングを以前からテストしており、少なくとも2019年にはかなりの精度でテストされていたと報じられています。しかしゲーム中の会話の文脈は本当に悪い意味で使われているのかが判別するのが難しい場合があり、検討中のままだったようです。

2019年のインタビューでは、Xbox Liveエンジニアリングチームのロブスミス氏は次のように述べています。

「最終目標は、リアルタイムで音声会話から悪口を検出して、それを見たり聞いたりしたくないユーザーにビープ音で通知するというものです。これは大きな目標ですが、それに向けて一歩ずつ踏み出す必要があります」

最近では5年前よりもAIの精度がかなり高まっているため、導入が行われた場合かなり高い精度になることが期待されます。

--