Anthropicは最近、内部モデルのアクティベーションを人間が読めるテキストへ翻訳するツール「Natural Language Autoencoders（NLA）」をリリースし、コードとモデルの重みをGitHubでオープンソース化しました。Sparse Autoencodersなどの既存ツールが判読しにくい特徴を出力するのに対し、NLAはデュアルモデルの枠組みによって自然言語の説明を直接生成します。具体的には、一方のモデルがアクティベーションをテキストへ変換し、もう一方のモデルがテキストからアクティベーションを再構成しようとして、強化学習によって反復的に精度を高めます。
安全性のテストでは、NLAが隠れたモデルの推論を明らかにしました。Claudeは敵対的なシナリオの16%でテストされることへの疑念を表明し、ベンチマークタスクの26%では「試験への意識」が見られたのに対し、通常の会話では1%未満でした。監査の実験では、NLAは注入された欺瞞的なモデル行動の検出率を3%未満から12〜15%へと引き上げました。これにより、監査担当者は学習データにアクセスできなくても、隠れた目的を特定できるようになります。このツールは現在、Claude Mythos PreviewおよびOpus 4.6の安全性監査に展開されています。
免責事項：このページの情報は第三者から提供される場合があり、Gateの見解または意見を代表するものではありません。このページに表示される内容は参考情報のみであり、いかなる金融、投資、または法律上の助言を構成するものではありません。Gateは情報の正確性または完全性を保証せず、当該情報の利用に起因するいかなる損失についても責任を負いません。仮想資産への投資は高いリスクを伴い、大きな価格変動の影響を受けます。投資元本の全額を失う可能性があります。関連するリスクを十分に理解したうえで、ご自身の財務状況およびリスク許容度に基づき慎重に判断してください。詳細は
免責事項をご参照ください。
関連記事
ExaforceはAIサイバーセキュリティ・プラットフォームを拡大するために$125M 評価額で$725M シリーズBを調達
TechCrunchによると、ExaforceはシリーズBで1億2500万ドルを調達し、評価額は7億2500万ドルだった。同社は、企業がサイバー攻撃を検知して対応するためのツールへの支出を増やす中で、その資金調達を実施した。このラウンドはHarbourVest、Peak XV、Mayfield、Khosla Ventures、Seligman Venturesが主導し、AIサイバーセキュリティのスタートアップの累計調達額は、約1年前に完了した7500万ドルのシリーズAに続いて、2億ドルに到達した。2025年の第4四半期に製品を開始して以来、ExaforceはReplitやGuardant Healthを含む20社の顧客を追加した。
GateNews18分前
NVIDIAのCEO、ジェンセン・ファンが5月13日にトランプに同行して中国へ行く
ホワイトハウスの確認によると、NvidiaのCEOであるジェンスン・フアンは5月13日にトランプ大統領とともに中国へ向かう予定です。フアンはすでに中国へ渡るために空軍一号機（Air Force One）に搭乗しています。
GateNews24分前
Metaのテスト @meta.ai は、5カ国でThreads上のアシスタントを対象に
TechCrunchによると、Metaは新しいThreads機能をテストしており、公開アカウントのユーザーは投稿や返信で @meta.ai をメンションすることで、回答や文脈を受け取れる。ベータの段階的な提供は現在、マレーシア、サウジアラビア、メキシコ、アルゼンチン、シンガポールで実施中だ。 機能の仕組み @meta.ai ツールは、トレンドや速報に関するリアルタイム情報を提供するよう設計されている。メンションされると、アカウントは元の投稿と同じ言語で公開返信を行い、地域や言語の違いをまたいでローカライズされた回答を確実にする。 既存プラットフォームとの比較 この機能は、SNSプラットフォーム内でAIを使った情報取得を後押しする同様のアプローチとして、XのGrok統合に似ている。 ユーザーの操作とフィードバック Metaはより広い展開に先立ってユーザーのフィードバックを集めており、いくつかの制御メカニズムを導入している。ユーザーは @meta.ai を完全にミュートしたり、その投稿を関心なしとしてマークしたり、フィードから個別の返信を非表示にしたりできる。これらの操作により、Metaが
CryptoFrontier57分前
アンソロピックが5月12日にClaude向けの法務用プラグイン12本を提供開始
ブルームバーグによると、Anthropicは5月12日にClaude向けの法務プラグインを12個リリースし、契約書のレビュー、司法試験（バ ー試験）対策、そしてDocuSign、Thomson Reuters、Harveyとの連携機能を備えたという。これらのプラグインは、Anthropicのオフィス向けAI製品「Claude Cowork」を通じて、またClaudeを基盤に構築されたサードパーティのサービスを通じて、有料顧客に提供される予定だ。
GateNews1時間前
Google、Googlebookを発表――15年続いたChromebook時代に幕を下ろす、新たなAI搭載ノートブックカテゴリを導入
Beatingによると、Googleは公式にGooglebookを発表し、Chromebookの15年にわたるクラウドファースト時代の終わりを告げる新しいノートブックカテゴリが登場した。 この端末は、Geminiによってネイティブに駆動されることで、ChromeOSとAndroidの技術スタックを組み合わせており、今秋に初の製品が投入される。 GooglebookはAcer、Asus、Dell、HP、Lenovoによって製造され、それぞれが新カテゴリの視覚的な識別として、Googleの特徴的なGlowbarのライトストリップを備える。 この動きは、MicrosoftのCopilot+ PCやAppleのMacエコシステムへのGoogleの対応であり、グローバルなモバイルプラットフォームをデスクトップ計算へと持ち込むことを狙っている。
GateNews1時間前
