lightblue - Alibaba Cloud

テクノロジー

日本

中小企業/スタートアップ

「言語対応において、英語では良い勝負の一方、日本語対応できる点ではQwenが公開されていたものでトップだと判断したんです。日本語が喋れるモデルをベースにファインチューニングすると精度が全然違う、という点でQwenを選定しました。」

Lightblue取締役｜上級研究員

谷口俊一氏

会社概要

株式会社Lightblueは、AIの民主化を目指すスタートアップ企業です。生成AI・LLMの研究開発に特化したチーム「LLab」を設立し、安全性と透明性を重視したAIモデルの開発に取り組んでいます。AI技術の活用範囲を広げ、社会にポジティブな変革をもたらすことを目指しています。

課題

ChatGPTがリリースされ、爆発的に生成AIが盛り上がる一方で、日本国産LLMはないというところに着目したのが、Lightblueの独自LLM開発のスタートです。

Lightblue が発表したLLM モデル「 Karasu 」「Qarasu 」は、データセットを日々改良、最適化するエンジニアの不断の努力により、日本語での優れたパフォーマンスを確保しています。しかし、日本語のトレーニングに最適なベース LLM を探すことが喫緊の課題でした。 Lightblue はこの課題に対し、必要な専門知識とサポートを提供可能なテクノロジーパートナーを熱望していました。

Alibaba Cloudを選ぶ理由

Alibaba Cloud による、Lightblueへの Tongyi Qianwen (Qwen) のサポートは、 2023 年 12 月「Karasu 」「Qarasu」のリリースに大きく貢献しました。 Lightblue は当初、LLama2 や Mistral Large など代表的なモデルを検討し、開発に最も適した基盤を評価しましたが、いずれも英語では高いパフォーマンスを示したものの、日本語を扱うための最良の選択肢とは言い難いものでした。そこで新たに浮上したのがQwen です。 Qwenは高度なアーキテクチャと東アジア言語での広範なトレーニングで、日本語向けにファインチューニングされた際に優れた精度を発揮し、明確で関連性のある対話を実現しました。 Lightblue が日本語処理で成功するために必要な機能を獲得する上で、非常に重要な役割を果たしました。

アーキテクチャ

Lightblue は、複雑な自然言語処理タスクと強力な多言語機能に精通していることで知られる、Alibaba Cloud の高度な基盤 LLM である Tongyi Qianwen (Qwen) のオープンソース版を利用しました。

さらに、Lightblue は他の複数の Alibaba Cloud ソリューションを採用しました。仮想サーバーを迅速にデプロイするためのスケーラブルなオンデマンドコンピューティングリソースには、最適なパフォーマンスを得るための豊富なインスタンスタイプとストレージオプションが用意された Elastic Compute Service (ECS) を使用しました。着信トラフィックを複数のサーバーに分散し、アプリケーションの高可用性と信頼性を確保するためには、Alibaba Cloud の Server Load Balancer (SLB) を使用しました。

また、大量の非構造化データにスケーラブルで安全なストレージを提供し、信頼性の高いデータ管理を保証する、Alibaba Cloud Object Storage Service (OSS) も利用しました。

主な結果

Qwen では軽量から大型までさまざまなモデルサイズを用意することで、開発における高い利便性を確保しています。 72b モデルはより正確で高いスコアを達成できますが、7b モデルは管理が容易で、出力速度を含むさまざまなパラメーターサイズを備えているため、開発において使いやすいモデルです。

また、Qwen は HuggingFace でリリースされた時点でシームレスな学習が可能な状態にあるため、Lightblue は円滑に LLM を開発することが可能でした。

今後の展望

Lightblue と Alibaba Cloud は、今後もより多くのプロジェクトで協力することを予定しています。 Lightblue は、SaaS サービスである Lightblue Assistant (RAG ベースのソリューション) の精度を高め、現在は他のベンダーによって提供されている API に依存する部分を置き換えることを目指しています。さらに、ローカル環境で実行する必要があるお客様に合わせたユーザーフレンドリーな LLM モデルの開発を検討しています。

注目のプロダクト

Tongyi Qianwen (Qwen)

Alibaba Cloud のトップパフォーマンス基盤モデルです。

Elastic Compute Service (ECS)

クラウドホスティングのあらゆるニーズに応じて、柔軟でセキュアな仮想サーバー環境を提供するサービスです。

Server Load Balancer (SLB)

Server Load Balancer (SLB) は、ネットワークトラフィックをサーバーのグループ間で分散し、サービスの機能と可用性を向上します。レイヤー 4 の Network Load Balancer (NLB) 、レイヤー 7 の Application Load Balancer 、および Classic Load Balancer (CLB) があります。 Alibaba Cloud の公式クラウドネイティブゲートウェイです。

Object Storage Service (OSS)

どこからでも、いかなる容量のデータでも保存でき、アクセスできるフルマネージド型のオブジェクトストレージサービスです。

その他の関連事例