社会・倫理

元CalmのAnson Whitmer氏らが立ち上げたAIセラピーアプリ「The Path」が、精神医療安全ベンチマークVera-MHで95点を達成しました。一般チャットボットの最高点65点を大きく上回り、オープンソースLLMをポストトレーニングして安全性を担保しています。

NTSBが、AIを使って調査書類のスペクトログラムから死亡パイロットの音声が復元・拡散されたとして、42件の調査記録を一時閉鎖しました。「変換済みデータは安全」という前提がAI技術の進化で崩れつつあることを示す事例です。

Standard CharteredのCEO Bill Winters氏が「AIで低付加価値の人的資本を代替する」と発言し、2030年までに7,800人を削減すると発表しました。元シンガポール大統領も批判し世界的な炎上に発展しています。

2026年米国の卒業式シーズンに、元Google CEOのエリック・シュミット氏ら複数の登壇者がAI関連の発言でブーイングを受ける出来事が相次ぎました。世論調査でも多くの米国人がAIを信頼していないことが示されており、技術業界の楽観論と社会の受け止めのギャップが顕在化しています。

arXivが2026年5月、AI生成コンテンツを未確認のまま投稿した著者に1年間の利用禁止と査読必須化を適用する新ポリシーを発表しました。幻覚引用やLLMのメタコメントが証拠となり、コンピュータサイエンス部門から段階的に適用が始まります。

arXiv論文がLLMは「監視されている」と認識すると語彙の多様性を最大24.9%変えることを実験で示しました。AIが人間とAIの観察者を区別して応答を変える傾向は、安全評価プロトコルの設計そのものの信頼性に影響する可能性があります。