【朗報】RobloxのAIチャットが進化！禁止ワードを言い換え、安全性も20倍向上

Roblox AIチャットの概要

Robloxは、AIを活用したリアルタイムのチャット言い換え機能を導入した。
この機能は、禁止ワードをより適切な表現に自動的に置き換えるもので、単に禁止ワードを「#」で伏せる従来の方法よりも高度だ。
従来、禁止ワードが連続すると「####」となり、会話の流れが阻害されることがあったが、今後は元の意図に近い適切な表現に言い換えられる。
例えば、「Hurry TF up!」というメッセージは以前は「####」と表示されていたが、今後は「Hurry up!」と表示され、チャット参加者にはメッセージが言い換えられたことが通知される。
Robloxのラジーブ・バティア副社長は、この機能が会話を円滑に進め、適切な言葉遣いを促すことで、コミュニティの秩序を維持すると述べている。
安全性確保のため、より深刻な行為に対する既存の安全システムも引き続き機能する。
この機能は、Robloxの自動翻訳ツールで利用可能なすべての言語に対応している。
また、Robloxはテキストフィルタリングシステムも強化し、禁止ワードの多様な表現や、フィルタを回避しようとする巧妙な試みをより正確に検出できるようにした。
これにより、個人情報の共有や要求に関する誤検出が20倍減少したという。
この発表は、テキサス州、ケンタッキー州、ルイジアナ州などの司法長官からの訴訟を受け、Robloxがチャットへのアクセスに顔認証を義務付けた直後に行われた。
訴訟では、Robloxが若年ユーザーを危険なリスクに晒していると指摘されていた。

AIフィルタリングの注目ポイント

1. Robloxは、AIを活用し、禁止ワードをより適切な表現に自動変換する新機能を導入。
2. 従来の#表示による会話の混乱を軽減し、スムーズなコミュニケーションを促進する。
3. テキストフィルタリングシステムを強化し、巧妙な回避策や個人情報共有を検知する精度を向上。

RobloxがAIを活用した3Dモデル「Cube」を発表、クリエイター向け新ツール登場概要 Robloxは、クリエイターが生成AIを使用して3Dオブジェクトを作成できる「Cube」の初版を発表しました。 このオープンソ...

安全性向上への分析・解説

Robloxが導入するAIを活用したリアルタイムチャット言い換え機能は、単なる禁止語の置換を超えた、コミュニティの安全性と円滑なコミュニケーションの両立を目指すものと分析できる。

従来のハッシュマーク表示による会話の遮断という課題に対し、AIが文脈を理解し、意図を尊重した表現に言い換えることで、より自然な対話を促す効果が期待される。

この機能は、特に未成年ユーザーが多いRobloxにおいて、有害なコンテンツや不適切な言動への対策として重要となる。

しかし、AIによる言い換えは、表現の自由に対する制限や、意図しない意味合いの変化といったリスクも孕んでいる。

Robloxが同時進行で強化しているテキストフィルタリングシステムとの連携により、これらのリスクを軽減し、より高度な検知と対応が可能になるだろう。

また、テキサス州などの訴訟を受け、導入された顔認証によるチャットアクセス制限と合わせて、Robloxはプラットフォームの安全性向上に注力している姿勢を示している。

今後は、AIの精度向上と、ユーザーからのフィードバックを基にした改善が、この機能の成功を左右すると考えられる。

【速報】275ドルから！アリババ「Qwen」AIグラス、MWCでRay-Ban超えの性能披露Qwen AIグラスのニュース概要 バルセロナで開催されたモバイル・ワールド・コングレスにおいて、シャオミやオナーといった中国のスマート...

詳しい記事の内容はこちらから

参照元について

『TechCrunch』のプロフィールと信ぴょう性についてここでは『TechCrunch』の簡単なプロフィール紹介と発信する情報の信ぴょう性についてまとめています。 記事を読む際の参考にし...