LINE API Use Case

「anybot for ChatGPT」の技術事例 | ChatGPTを最大限活用してコミュニケーションの円滑化を実現

システムの解説

AWSとChatGPTを駆使した顧客対応システム

私たちのインフラ選定においては、各サービスが特定のニーズに合わせて選ばれています。Amazon Simple Storage Servicce(AWS S3)は、容量の⼤きな学習データを管理するために採⽤しました。このサービスはPDFファイル等の学習データの管理に活⽤しています。また、Amazon Elastic File System(AWS EFS)は、処理時に頻繁に必要となるファイルに⾼速かつ安全にアクセスするために採⽤しました。これは複数のAmazon Elastic Container Service(以下、AWS ECS)インスタンスから同時にアクセスできるファイルストレージサービスであり、処理済み学習データの検索時等に活⽤しています。

AWS ECSは、アプリケーションをホストするために採⽤しました。更新管理が容易で、アクセス数や負荷状況に応じたスケールイン·スケールアウトによって、安定したサービス提供することを⽬的としています。さらに、質問と回答のセッションにはChatGPT(OpenAI)を導⼊しました。このAIツールは、⾃然⾔語処理を活⽤してユーザーの質問に対応できます。同様の⽬的でChatGPT(Azure OpenAI Service)も使⽤されています。ChatGPT(Azure OpenAI Service)はすでにAzure環境に慣れている企業やMicrosoft Azureのセキュリティ機能を利用したい企業向けとなっております。

AWSによるインフラ運用の効率化とセキュリティ強化

私たちのインフラ運⽤においては、Amazon CloudWatch(以下AWS CloudWatch)とAmazon Elastic Container Registry Service(以下、AWS ECR)が重要な役割を果たしています。AWS CloudWatchは、ログ管理のために使⽤されています。このツールは、インフラストラクチャとアプリケーションの両⽅で⽣成されるログデータを監視し、分析するための強⼒なサービスです。AWS CloudWatchを採⽤した理由は、リアルタイムのデータ収集と監視を通じてシステムのパフォーマンスを追跡し、必要に応じて即時に対応できる能⼒にあります。また、予期しないシムテムの問題やセキュリティ違反を迅速に検出し、効果的に対処するためにも不可⽋です。⼀⽅で、AWS ECRは、更新管理に利⽤されています。AWS ECRは、コンテナ化されたアプリケーションのイメージを管理し、安全に保存するためのサービスです。このツールを選択した主な理由は、アプリケーションの更新プロセスを簡素化し、効率的に⾏うためです。AWS ECRを使⽤することで、コンテナイメージのバージョン管理が容易になり、開発からデプロイメントまでの⼀貫したワークフローを実現できます。これらの運⽤ツールは、インフラのパフォーマンス監視と更新プロセスの効率化を⽀え、システムの安全性とセキュリティを強化するために重要な役割を果たしています。

今後の展望

AI関連サービスは習得難易度が⾼いサービスが多いですが、可能な限り簡単に、やりたいことが実現できるサービスを提供していきたいと思っています。また、ChatGPTにセキュリティ⾯や安定性などの懸念を持たれている⽅々が⼀定数いることを理解し、これまでの⽅針通りChatGPTの⻑所を最⼤限活⽤しつつ、短所をしっかりとカバーしたサービスを維持していきたいです。

LINEのAPIに対する要望

⾔語系の⽣成AIは⼀度に回答を⽣成するのではなく、1トークンずつ⽣成するという特性があります。なので、すべての⽂章が⽣成されるまでの時間が多少なりともかかってしまいます。そのため、UI/UXの観点からストリームでのレスポンス受け取り・回答内容表⽰が利活⽤において、重要な要素となってくるのではと考えています。今後ストリーム形式で、LINE上で送信したい内容を送れるようになると⾮常にありがたいです。

これからサービスを開発される方に一言

⽣成AIに関連するサービスは、これから黎明期を迎えると考えています。技術的な進歩や法規制等、⽇々情勢が変わっていく険しい領域ですが、みなさんと⼀緒に⽣成AI関連サービスの発展を⽀える⼀助となれたら嬉しく思います。

ユーザー導入事例関連リンク

利用しているAPIのリンク

お問い合わせ先

AWSやChatGPTを活用した他ユーザー導入事例