#28-study CDLE勉強会#10 24時間信頼できるAIをあなたに / 小林裕宜さん

CDLE VOICE - AI for Business

今回のエピソードはCDLE勉強会#10の音源を配信します。

【講演タイトル / Title of Lecture】

24時間信頼できるAIをあなたに

Challenges in real-world AI operation and quality management

【講演概要 / Lecture Summary】

AIは賞味期限がある「生鮮食料品」のようなものです。我々はAIが実世界でも開発段階と同様に正確に動作することを期待しますが、実世界での運用データは、学習データとは異なり時々刻々と変化するため、AIの品質管理上、予期せぬ大きな問題をもたらす可能性を秘めています。

例えば、コロナ禍では多くの需要予測モデルの推定に狂いが生じます。晴天の環境下で訓練された自動運転車は雪の日には上手く機能しません。実世界の環境は日々変化し、AIの品質を悪化させます。また、データパイプラインの更新など内部的な作業変更も、予測ミスを引き起こす一因です。AIの説明責任やコンプライアンスに対応するためには、学習データと運用データ間のバイアスを常に計測し、AIの推論根拠を説明できる体制を整えることが求められます。さらに、AIの脆弱性を狙ったアタックも存在します。

Citadel AIでは、お客様が運用するAIの品質を自動モニタリングし、異常を検知・ブロックの上、AIの思考過程を可視化する「AI監視ツール」を開発しています。お客様のAIの運用の効率化と、品質の改善・精度向上を図ります。

本講演では、AI固有の課題・リスクとその具体例、AI運用時の品質保守の重要性、ならびに実世界の環境下において、より良いAIの品質を担保するにはどうしたら良いかという点について解説します。

Every AI system has an expiration date. We want AI models to make accurate predictions in the real world, but unlike your training data, the real world continuously changes and presents many challenges to AI quality management.

For example, most demand forecasting models failed during COVID-19, and self-driving cars trained in sunny California will not work in snowy weather. In general, real-world environments change everyday and deteriorate model quality. Internal changes, such as updates to data cleansing pipelines, can also cause mispredictions. For AI accountability and compliance, it’s important to measure biases in the training/serving data and provide prediction explanations. Moreover, there are attacks that directly target vulnerabilities in AI models.

Citadel AI has developed an AI monitoring tool that automatically monitors the quality of your AI, detects and blocks errors, and visualizes the AI's thought process. This tool improves the real-world accuracy and operational efficiency of your AI systems.

In this talk, we will discuss the challenges and risks inherent in AI, the importance of quality management during AI operations, and how your team can achieve better real-world AI quality.

【講師プロフィール / Lecturer Profile】

小林裕宜 / Hironori “Rick” Kobayashi

東京大学電子工学科卒業後、三菱商事株式会社に入社。株式会社ロイヤリティマーケティング社長、北米三菱商事会社SVP、米国インディアナパッカーズコーポレーションCEOなどを経て、2020年株式会社Citadel AIを共同創業し、代表取締役社長に就任。

Rick is the co-founder and CEO of Citadel AI. He holds a degree in electronic engineering from The University of Tokyo. Later, he joined Mitsubishi Corporation and served the President of Loyalty Marketing, Inc., SVP of Mitsubishi Corporation (Americas), and CEO of Indiana Packers Corporation in U.S.

Kenny Song

ニューヨーク大学上海校コンピュータサイエンス学科卒業後、米国Google本社に入社。AIの中枢研究開発機関であるGoogle BrainのプロダクトマネージャーとしてTensorFlowやAutoMLなどの開発をリード。2020年株式会社Citadel AIを共同創業し、CTOに就任。

Kenny is the co-founder and CTO of Citadel AI. He holds a degree in mathematics from NYU Shanghai, and published research in reinforcement learning. Later, he joined Google Brain as a Product Manager for machine learning infrastructure, including TensorFlow and AutoML.

/------------------------------------------/

AI・ディープラーニングの社会実装を目的とする参加者約4万人の日本最大のAIコミュニティ、Community of Deep Learning Evangelists (CDLE)が運営し、CDLEの活動、ビジネスに役立つAI活用情報、AIスタートアップやDXに関する情報を紹介する番組です。また、対談を通じて人生を豊かにするヒントを得られるかもしれません。

CDLEとは:

日本ディープラーニング協会(JDLA: Japan Deep Learning Association)が実施するG検定またはE資格保持者が加入できるコミュニティです。

CDLE:

https://www.cdle.jp

JDLA (non-profit organization):

https://www.jdla.org

Twitter:

https://twitter.com/jdlanews

Youtube:

https://www.youtube.com/channel/UCmzOgHRgJYxgoOkuDXWdzRg

Facebook:

https://www.facebook.com/jdla123/

BGM from royalty free music:

https://www.epidemicsound.com