MOSSとResearchで読む：Qwen4の登場とLLM学習効率を劇的に改善する新技術の最前線 10-29

本記事はHorizonを使いAI/LLM・バイブコーディング・Web3・スタートアップのニュースを自動収集・要約したものです。

LLMの学習計算量を品質を維持したまま15%削減する新手法の発見

研究チームは、新しいアテンション機構の拡張である「LIMe」を発表しました。この技術により、モデルの層が前の段階の表現にアクセスできるようになり、精度を損なうことなくLLMのトレーニングに必要な計算量を15%削減することが可能になります。

Qwen3.5の内部に、機能的で決定論的なRISC-V CPUである「Qwenputer」が組み込まれました。この技術は、AIモデル内での高度な計算処理や特定のアーキテクチャへの統合において重要な進展となります。

NVIDIAは、プロンプトによって適応・調整が可能なインテリジェントな多言語文字起こしモデル「Nemotron 3.5 Transcribe」および「Granary v2」を発表しました。これにより、より柔軟で高度な音声認識・書き起こしワークフローが可能になります。

Qwen4において、最大100万トークンのコンテキストウィンドウをサポートする機能が注目されています。また、来週開催されるApsaraカンファレンスでもQwen4に関する詳細が発表される予定です。

Microsoftは、OpenAIとの提携を通じて100億ドル（約1.5兆円）の収益を計上したと報告されました。この数字は、生成AI市場における両社の強力なパートナーシップとビジネスの規模を裏付けるものです。

Anthropicは、企業が自社のAIへの投資に対して具体的にどのような価値を得ているかを把握するためのツールを発表しました。これにより、企業はコスト対効果をより正確に測定し、戦略的なAI活用を進めることができます。