「オープンソースAIこそ進むべき道」--MetaCEO マーク・ザッカーバーグ氏寄稿を紹介

(※以下は2024年7月23日にMeta社から発表されたものとなります)

高性能コンピューティングの初期の時代、主要なテック企業は、UNIXの独自のクローズドソースバージョンの開発に多額の投資をしました。当時は、このような高度なソフトウェアの開発に、他のアプローチがあるということは想像しづらかったからです。しかし、結局はオープンソースのLinuxが人気となりました。最初は、開発者が思い思いにコードを改変でき、入手しやすいという理由で、後には、先進的でセキュアであり、クローズドなUNIXよりも幅広いエコシステムがより多くの機能をサポートしたからです。Linuxは今では、クラウドコンピューティングとオペレーティングシステムの業界標準の基盤になり、より多くのデバイスで動作するようになっています。私たちは誰もが、その優れたプロダクトの恩恵を受けています。

私(※マーク・ザッカーバーグ氏)は、AIも同じような発展をすると信じています。今日、いくつかのテック企業がクローズドなモデルを開発していますが、オープンソースが素早く追いついている状況です。昨年、Llama 2は、最先端から遅れた古いモデルとしか比べることができませんでした。しかし、今年になると、Llama 3は、最先端のモデルと競争ができ、ある分野では凌駕をしています。来年からは、将来のLlamaモデルが、業界の最先端になると期待しており、Llamaはすでに、オープン度、改変の自由さ、経済性でリードをしている状況です。

私たち(※Meta社など)は、オープンソースAIを業界標準にするための次のステップを踏み出しています。初めての最先端水準のオープンソースAIモデル「Llama 3.1 405B」、新たに改良された「Llama 3.1 70B」「Llama 3.1 8B」をリリースします(※ザッカーバーグ氏が寄稿した2024年7月23日時点での情報)。クローズドモデルに比べて優れたコストとパフォーマンスを持つことに加え、405Bがオープンソースであるという事実は、微調整と小さなモデルに抽出する場合の最良の選択肢になります。

これらのモデルをリリースするだけでなく、私たち(※同)はさまざまな企業と連携して、幅広いエコシステムを成長させます。Amazon、Databrics、NVIDIAは、開発者がモデルの微調整と蒸留を行うことをサポートするフルサービススイートサービスを立ち上げています。Groqのようなイノベーター企業は、すべてのモデルに対する低遅延、低コストの推論サーバーを構築しましたが、これらのモデルはAWS、Azure、Google、Oracleなどを含む主要なクラウドで利用することができるものです。Sacle.AI、デル、デロイトは、企業がLlamaを導入し、独自データでカスタムモデルを訓練する支援の準備ができています。コミュニティが成長し、より多くの企業が新しいサービスを投入することで、私たちはそれを含めてLlamaを業界標準にし、すべての人にAIの恩恵をもたらすことができます。

Metaは、オープンソースAIにコミットしています。オープンソースがあなたにとって最良の開発スタックである理由、オープンソースのLlamaがMetaにとって良い理由、オープンソースAIが世界にとって良い理由、さらにこれらのことから、オープンソースAIが長期的なプラットフォームになる理由を説明します。

オープンソースAIが開発者にとって良い理由とは?

世界中の開発者、CEO、政府職員と話すと、いつかのテーマが浮き彫りになります。

すべての組織には異なるニーズがあり、特定のデータで訓練または微調整されたさまざまなサイズのモデルを必要としています。デバイス上でのタスクや分類タスクには小さなモデルが求められますが、より複雑なタスクには大きなモデルが求められます。最先端のLlamaモデルを、独自データで訓練すれば、私たちや他の誰もがあなたのデータを見ることなく、最適なサイズのモデルに抽出することができます。

多くの組織は、自分で制御できないモデルに依存したいとは考えておらず、クローズドモデルのプロバイダーが、モデルを変更したり、利用規約を変更したり、サービスを停止することを望んではいません。また、モデルの包括的な権利を持つクラウドに縛られたくないと思っています。オープンソースは、企業に互換性のあるツールを提供する幅広いエコシステムにより、企業が自由に移行できるようになります。

多くの組織が保護すべき機微データを扱うため、それをクラウドAPIを通じてクローズドモデルに送信することができません。クローズドモデルのプロバイダーに独自データを扱わせることを信頼していない組織もあります。オープンソースは、どこでも望む場所でモデルを運用することが可能で、この問題を解決することができます。透明性の高い開発により、より安全性が高いと広く受け入れられています。

自社のインフラでLlama 3.1 405Bを運用すれば、GPT-4oのようなクローズドモデルに比べて、ユーザ利用とオフライン推論タスクなどで約50％のコストが節約できます。

多くの人が、オープンソースモデルはクローズドモデルよりも早く進化をしていることを知っており、長期にわたって大きな優位性をもたらしてくれるアーキテクチャーの上にシステムを構築したいと考えています。

オープンソースAIがMetaにとっていい理由

Metaのビジネスモデルは、人々にとって最高の体験とサービスを構築することです。それを実行するには、常に最高のテクロノジーを使い、競争相手のクローズドなエコシステムに縛られないことが必要です。

最高のプロダクトを構築し、競争相手が私たちを制限できない場合に、Metaやその他の企業が、人々にとってより優れたプロダクトを自由に開発できることは明らかです。

次世代コンピューティングであるAIとAR/VRでオープンエコシステムを構築することを強く信じている理由はここにあります。

Llamaをオープンソースにすると、技術的な優位性を放棄することになるのではないかとよく尋ねられますが、それはいくつかの理由で全体像を見逃していると思います。

第一に、最高のテクノロジーにアクセスし、長期間にわたってクローズドエコシステムに縛られないために、Llamaはツール、効率改善、シリコン最適化その他の完全なエコシステムを開発しなければなりません。もし、私たちだけがLlamaを利用する唯一の企業であるなら、このエコシステムは発展せず、UNIXのクローズドバージョンと同じことになってしまいます。

第二に、AI開発は競争状態が続くと見ており、その時点での最先端モデルが、オープンソース化されたモデルに対して大きな優位性を持つとは限りません。Llamaが業界標準になる道は、一貫して競争力があり、効率的であり、世代を超えてオープンであり続けることです。

第三に、Metaとクローズドモデル提供企業との重要な違いは、AIモデルへのアクセスを販売することは私たちのビジネスモデルではないということです。つまり、Llamaをオープンに公開することは、クローズドな提供企業と異なり、私たちの収益、継続性、研究への投資能力を損ないません（これは複数のクローズな提供企業がオープンソースに対抗して政府ロビー活動を継続する理由になっています）。

最後に、Metaはオープンソースプロジェクトとその成功に長い歴史があります。オープンコンピュートプロジェクト用に設計されたサーバー、ネットワーク、データセンターをリリースし、その設計に基づいたサプライチェーンの標準化をしたことで数十億ドルが節約できました。PyTorch、Reactその他の優れたツールをオープンソース化することで、エコシステムのイノベーションを起こすことで恩恵を受けています。このようなアプローチは、長期にわたって継続することでうまく機能するものをなっています。

オープンソースAIが世界にとっていい理由

オープンソースは、AIのポジティブな未来にとって必要だと思っています。人間の生産性、創造性、生活の質の向上、医学研究、科学研究の進歩、それに伴う経済成長を加速させるには、AIは、現代のどのテクノロジーよりも潜在能力を持っています。オープンソースは、世界中の人々がAIの利益と機会にアクセスすることを保証します。そのパワーは少数の企業の手に集中するのではなく、テクノロジーは社会に均質に安全に広がることになります。

オープンソースAIモデルの安全性についての議論が進んでいます。私の見解では、オープンソースAIは他のものより安全です。政府も、世界を豊かに安全なものにするため、オープンソースを支援することに興味を持つようになると思います。

安全性を理解するための私のフレームワークは、2つの有害な要素から守らなければならず、その要素とは、意図的ではないものと意図的なものになります。意図的ではない害とは、AIシステムがそうするつもりはないのにも関わらず、害を及ぼす場合です。例えば、現在のAIモデルは、不注意に誤った健康上のアドバイスを与えることがあります。あるいは、より未来においては、モデルが意図せずに自己複製をしたり過剰適応をして、人間性に損害を与えてしまうことがあるかもしれません。意図的な害とは、害を及ぼすことを目的としてAIモデルを使用する場合です。

意図しない害が、AIシステムを使う多くの人に対する影響を始め、人間性に対して惨事をもたらしかねないSF的なシナリオまで、幅広い懸念をカバーしていることは注目に値します。この観点では、オープンソースはより透明性があり、精査できるようになるべきです。歴史的には、オープンソースはまさにこの理由により安全であり続けました。同様に、LlamaにLlama Guardのような安全システムを使った場合は、クローズドモデルよりも安全でセキュアになる可能性があります。こうした理由で、オープンソースAIの安全性のテーマとして意図的な害に焦点があたっています。

私たちの安全性プロセスは、私たちのモデルがそうした害に対して有効性があるかどうか、リリース前にリスク軽減をするための厳格なテストとレッドチームによる対応が含まれます。オープンであるため、誰でも自分でテストしてみることができます。これらのモデルはすでにインターネットに存在している情報によって訓練されていることに注目しています。そのため、害を考える場合の出発点は、Googleなどの検索結果から得られる情報よりも多くの害を、モデルが生じさせるかどうかを考えることになります。

意図的な害を理解するには、悪意を持った個人や小さな組織ができることと、国家などの大規模なリソースを持った組織ができることを区別することが役に立ちます。

将来のある時点で、悪意のある人々はAIモデルの知能を使って、インターネットで利用可能な情報をから新たな害を捏造するかもしれません。この点で、AIの安全性にとってパワーバランスが重要になってきます。私は、AIが広く行き渡り、大きなプレイヤーが小さな悪人のパワーをチェックできる世界が好ましいと考えています。これが私たちのソーシャルネットワークで安全性を管理する理由です。堅牢なAIシステムが小さなAIシステムを使わざるを得ない洗練されていない悪意を持った行為を特定し、阻止することができます。より広く言えば、AIを広範囲に展開する大規模な組織は、社会の安全性と安定性を促すことができます。誰もがオープンソースにより生成された同世代のモデルにアクセスすることで、より大規模なコンピューティングリソースを持った政府や組織は、小さなリソースで悪意のある人々をチェックすることができます。

クローズドモデルしかない世界では、ごく少数の大企業と地政学的な敵が最先端モデルにアクセスし、一方で、スタートアップ企業や大学、中小零細企業はアクセスする機会を失ってしまいます。さらに、米国のイノベーションをクローズドな開発に縛ることは、私たちがリードできない確率を高めるだけです。そうではなく、私たちの最善の戦略は、大規模なオープンエコシステムを構築し、主要企業が政府や同盟国と緊密に連携し、最新の進歩を最大限に活用し、ファーストムーバーとしての優位性を長期にわたって持ち続けることです。

今後の機会について考える時、今日の主要テック企業や科学研究の多くは、オープンソースソフトウェアによって成り立っていることを忘れないでください。次世代の企業や科学研究は、私たちが投資をすれば、オープンソースAIを使うことになります。これには、起業したばかりのスタートアップ企業や、ゼロから独自のAIモデルを開発するリソースがない大学や海外の人も含まれます。

つまり、オープンソースAIは、このテクノロジーを活用して、すべての人に最大の経済機会と安全性をもたらすベストショットであるということです。

いっしょに作りあげていきましょう

過去のLlamaモデルは、Metaが自分のために開発しリリースし、より幅広いエコシステムの構築には焦点があたっていませんでした。私たちは、今回のリリースで異なるアプローチを取ろうとしています。できるだけ多くの開発者やパートナーがLlamaを利用できるように社内でチームを結成し、エコシステム内の企業が顧客に対して独自の機能を提供できるようにパートナーシップを積極的に結んでいます。

Llama 3.1のリリースは、多くの開発者がオープンソースを使うようになる業界の転換点になると信じています。また、このアプローチはこの点からのみ成長していくと期待しています。世界中の人々にAIの利益をもたらすための旅に参加していただけることを楽しみにしています。

モデルには、https://llama.meta.com/ですぐにアクセスできます。