AI arXiv論文:自己改善AIの安全リスクを6つに分類し提示
研究チームが、AIが自らを繰り返し改善する過程での安全性を評価する枠組み「Evolutionary Safety」をarXivで発表しました。意図のずれや誤りの蓄積など6つの典型的な失敗パターンを整理しています。
AI
AI
AI
AI
AI
AI
AI
AI
AI
AI