検索結果: hallucination
-
GSK、医療AIの”思い込み”を克服へ ─ 創薬開発における画期的なハルシネーション対策を発表
製薬大手GSK(GlaxoSmithKline plc、本社:英国ロンドン)が、創薬開発におけるAIのハルシネーション問題への対策を2025年1月14日に発表した。 AIを活用した科学文献レビュー、ゲ…
-
Patronus AI、世界初のAI幻覚防止APIをリリース ─ GPT-4を上回る医療分野での精度を実現
AIセキュリティスタートアップのPatronus AI社は、2024年10月31日、世界初となるAIハルシネーション(AI幻覚)を防止するセルフサービス型APIを発表した。 このAPIは、生成AIモデ…
-
スタンフォード大発見:法律AIツール、誤情報「幻覚」のリスク高く
スタンフォード大学の研究で、法律研究AIツールが誤った「幻覚」出力を生じる割合が高いことが判明。LexisNexis、Thomson Reuters製品を含むテストで、AIの透明性と信頼性の問題が浮き…
-
Patronus AIが1700万ドル調達、AIエラー検出技術で安全な導入促進
Patronus AIがAIの誤りや著作権違反を検出する技術で1700万ドルを調達し、総資金2000万ドルに。この技術は企業のAI導入を安全に促進し、Notable Capital主導で資金提供された…
-
人工知能Alembic、企業データの「幻覚」問題を解決
Alembicが開発した新AIシステムは、企業データ分析と意思決定支援を革新。偽情報生成の「幻覚」問題を排除し、因果関係を特定する能力に基づく。この技術は、Fortune 500の9%と関係を築き、信…
-
音声認識の新星、Universal-1が多言語処理で前進!
Assembly AIが新音声認識モデル「Universal-1」を発表。多言語対応で、英語、スペイン語、フランス語、ドイツ語の音声テキスト変換精度が高く、幻聴や騒音の影響を大幅に削減。コードスイッチ…
-
AI推薦の「幻覚」パッケージが開発環境のセキュリティリスクを拡大
AI技術の進化により、ソフトウェア開発者が大規模言語モデル(LLM)を利用することが増えていますが、Lasso Securityの研究によると、これらのモデルが存在しないコードライブラリを推奨し、攻撃…
-
Microsoft、AI「幻覚」検出の新安全システムを開発
MicrosoftがAI「幻覚」検出の新安全システムを開発。Azure AI Studioを通じ、悪意のあるプロンプト攻撃や不適切応答をリアルタイムで防ぐ。プロンプトシールド、根拠検出、安全評価機能を…
-
ChatGPTが一晩中奇妙な返答、OpenAIが修正に迅速対応
ChatGPTが一晩中奇妙な返答を繰り返し、OpenAIが修正に乗り出した。ユーザーは言語の切り替えやループに陥るなどの問題を報告。この事件はAI技術の複雑さと予期せぬ振る舞いのリスクを示し、AIの規…
-
“AIの幻覚”現象が浮上、現実逸脱の原因と影響を探求
from The Perils of AI Hallucination: Unraveling the Challenges and Implications. AIの幻覚という新たな現象が登場し、こ…