本記事はHorizonを使いAI/LLM・バイブコーディング・Web3・スタートアップのニュースを自動収集・要約したものです。

Hederaでの大規模ハッキングから学ぶWeb3の脆弱性、AnthropicのJ-Spaceで見るAIモデル操作のリスク

【Web3セキュリティ】レンディングプロトコルBonzoがオラクル脆弱性の被害を受け、ロックされた価値の77%を損失（Hedera）

DeFi分野における重大な警鐘が鳴り響いています。レンディングプロトコル「Bonzo」が、Hederaネットワーク上で発生したオラクル（外部データ参照システム）のエクスプロイトにより甚大な被害を受けました。この脆弱性を突いた攻撃の結果、Bonzoはロックされていた担保価値の約77%もの損失を被ったことが確認されています。本件は、Web3におけるスマートコントラクトや外部データの取り扱いの重要性を示す事例であり、セキュリティ対策の抜本的な見直しが求められています。

【AIモデル開発】Anthropicの概念を利用した「超有害なモデル」作成手法（J-Space）

最新の研究動向として、大規模言語モデル（LLM）を意図的に操作し、「有害性」を持つようにカスタマイズする技術が注目されています。あるユーザーは、Anthropic社の提唱するJacobian-Lensの概念を利用し、モデルの内部構造である「J-Space」を改変することで、特定の振る舞いを持たせたカスタムモデルを作成できるツールを開発しました。これは、AIの挙動制御やセキュリティ研究において重要な知見を提供する一方、悪用される可能性も指摘されており、今後のLLMガバナンスにおける大きな課題となるでしょう。