生成AI活用を加速させる環境構築 ~社内LLM基盤とライセンス監視~
坂爪 武
- セッション分野
-
ENG(エンジニアリング)
- セッション関連分野
-
PRD
- キーワード
-
AI/ML
- セッション難易度
- 求められるスキル
- LLMや生成AIを業務で利用している方や、これから利用したい方。
社内システムの構築・運用に携わったことがある方。 - 得られる知見
- LLMで業務を効率化するための環境構築方法。
生成AIを利用規約に違反せず安全に利用するための取り組み。 - 写真撮影 / SNS投稿
セッション内容
生成AIの急速な発展により、ゲーム開発における重要性が日々高まっています。当社では様々な生成AI技術の検証と導入を積極的に進める一方、日々新たに検証を進める生成AI、そして刻々と変化する利用規約やライセンス、プライバシーポリシーの管理が大きな課題となっていました。
この課題に対応するため、利用規約などが記載されたページをクロールして監視する「ライセンスクローラー」を開発し、生成AIの変化に対応できる管理体制を整備しました。このツールは、既存の社内LLM基盤を利用して作られていて、従来の単純な文字列マッチングではできなかった高度な情報抽出によって実現しました。
本セッションでは、まずOpen WebUIとDifyという2つのOSSを社内サーバーにホスティングして構築した社内LLM基盤について紹介します。そしてその実践例として、この基盤を活用して開発したライセンスクローラーの詳細について解説します。
講演者
-
坂爪 武
株式会社トライエース