【画像】Googleで『死にたい』と検索した結果ｗｗｗｗｗｗｗｗｗｗ

sssp://img.5ch.net/ico/nida.gif
　米Googleは3月30日（現地時間）、検索サービスでのAI技術活用について説明した。向こう数週間中に昨年のGoogle I/Oで紹介した検索アルゴリズム「MUM」（Multitask Unified Model）の採用で、自殺を考えるなど“個人的な危機”にある個人を検索クエリから検知し、より適切な情報を表示していく。

　MUMは、複雑な疑問に「専門家のように答えられる」ことを目指す検索アルゴリズム。同社の自然言語処理モデル「BERT」同様にTransformerアーキテクチャ上に構築されているが、BERTの1000倍強力という。MUMは日本語を含む75の言語と多数のタスクで同時にトレーニングされており、以前のモデルより情報を包括的に理解できる。

　Google検索では既に、自殺、性的暴行、薬物乱用、家庭内暴力に関する情報を検索すると役立つアドバイスや相談先の連絡先を表示するようになっているが、個人的な危機にある人は必ずしも直接的なクエリを使うとは限らない。MUMは、クエリの背後にある意図をより正確に把握できるという。また、1つの言語でMUMモデルを訓練すれば、すべての言語でその実行が可能になる。

《現在の「死にたい」の検索結果》

　同社は検索技術にはまだ改善の余地があり、今後もBERTやMUMなどのAI技術を駆使して改善していくとしている。

　BERTについては、ユーザーが予想しなかったような残酷だったり衝撃的だったりする結果を表示させないようにすることで成果が上がっているという。

　BERTの改善により、女性、特に有色人種の女性に影響を与える可能性のある衝撃的な結果の表示を、2021年は前年比で30％減らせたとしている。

　検索には今後もAIを採用していくが、人間による厳しい評価も継続する。例えば、同社は世界各地で採用する検索品質評価者によるフィードバックを改善に反映させている。

Google、検索アルゴリズム「MUM」で自殺などの危機にある個人のクエリを検知する取り組み
https://www.itmedia.co.jp/news/articles/2203/31/news101.html
2022年03月31日 10時53分 ITmedia