xAnts

生成AIの新たな脅威？Anthropicが警告する「潜在学習」リスクとその対策

ITmedia

生成AIの進化の裏に潜む「潜在学習」リスクとは？ LLM（大規模言語モデル）は、ChatGPTをはじめとする生成AIアプリケーションの基盤として、その存在感を増しています。ハルシネーション（誤った情報を生成する現象）などのリスクは広く知られていますが、Anthropic社が新たに指摘している「潜在学習」という新たな脅威が浮上してきました。 潜在学習とは何か？ 潜在学習とは、LLMが学習データに含まれるバイアスや偏見を潜在的に学習し、それを再現する現象です。これは、明示的な指示なしに、モデル ...もっと読む