Metaは12月7日、生成AIイニシアティブ「Purple Llama」を発表した。責任のあるAI開発の促進を目的としたもので、オープンな生成AIモデルの構築に必要なツールを揃えていく。第一弾として、LLM向けのサイバーセキュリティ評価ベンチマーク「CyberSec Eval」などを発表した。

Purple Llamaは、安全かつ責任のあるAIシステム開発を促進するためツールや評価機能を揃えるプロジェクト名。開発者はPurple Llamaの下で公開される技術やツールを利用することで、オープンな生成AIモデルを使った責任のあるAIシステムを構築できるという。

Metaによると、同社がオープンソースとして公開する大規模言語モデルのLlamaのダウンロード数は1億回を超えているという。

第一弾として、LLM向けのサイバーセキュリティと安全性評価ベンチマークセット「CyberSec Eval」、入出力フィルタリングの安全分類子「Llama Guard」を公開した。

  • 「Purple Llama」はLLM製品の開発段階における入出力レベルのリスクに対処するという

    「Purple Llama」はLLM製品の開発段階における入出力レベルのリスクに対処するという

合わせて、12月5日に米IBMと立ち上げた「AI Alliance」に言及し、同アライアンスが掲げるオープンなアプローチに沿ってオープンソースコミュニティにツールを提供していくとしている。