新興企業TypeSafe AIが「確率を返すAIモデルJev」を公開　生成AIの信頼性向上狙う

元OpenAI研究者で、人間からのフィードバック学習(RLHF)の共同考案者として知られるディオゴ・アルメイダ氏が率いる新興企業TypeSafe AIは、9月18日に新モデル「Jev」を発表しました。Jevは通常の生成AIと異なり、文章や画像を直接生成するのではなく、「どの選択肢が正しいか」を表す校正済みの確率(確からしさ)を出力することに特化したトランスフォーマーモデルです。これにより、意思決定システムやリスク評価などで「どの程度自信があるか」を明示できるため、ブラックボックス性の高い従来モデルに比べて信頼性や説明可能性を高められると売り込んでいます。

Jevは、既存の大規模言語モデルと組み合わせて利用することを想定しており、医療・金融・安全分野など誤りの許されない用途での活用が期待されています。一方で、理論上「確率が校正されている」と主張するだけでなく、現実のデータでどこまで性能と信頼性が検証されるかが今後の焦点となります。安全性や規制対応を差別化要因にするAIスタートアップが増える中、Jevは「より安全なAIアーキテクチャ」を模索する動きの一例と言えます。