2026年8月、札幌の若手ITエンジニアが集う「札幌AI開発者交流会」にて、弊社エンジニアの朴（パク）と鎌田が発表を行いました。

「札幌AI開発者交流会」は、「さっぽろイノベーションラボ」の会員企業によって行われている勉強会です。札幌の若手ITエンジニア約20名が集まり、AIに関する知見の共有やエンジニア同士のコミュニケーションを通じて、札幌のAI開発力の向上とビジネス創造を目指す取り組みです。当日も、各社のエンジニアが持ち寄った知見をもとに、活発な情報交換が行われました。

　
弊社からは、エンジニアの朴と鎌田が登壇。「AIエージェントとプロンプトインジェクション ― 実際に起きたインシデントから学ぶセキュリティ」と題し、生成AI・LLMを組み込んだサービスで問題となる「プロンプトインジェクション」について、実際に発生したインシデントを交えながら発表しました。

発表では、AIを組み込んだサービスを開発・運用するうえで避けて通れない「プロンプトインジェクション」を、次のような観点から解説しました。
● プロンプトインジェクションとは
AIへの指示（プロンプト）に悪意ある命令を紛れ込ませ、開発者が意図しない動作を引き起こす攻撃です。入力に直接命令を仕込む「直接インジェクション」と、Webページや外部データを経由して仕込む「間接インジェクション」があります。
● 実際に起きているインシデント
SNSの自動応答ボットが乗っ取られて意図しない発言をした事例、対話型AIから内部の指示（システムプロンプト）が引き出された事例、企業のチャットボットが不適切な回答を生成してしまった事例など、身近なサービスで現実に発生している事例を紹介しました。
● 開発者が取るべき対策
入力・出力の検証やフィルタリング、AIに与える権限の最小化、システムプロンプトの防御、外部データの安全な取り扱いなど、設計段階から考慮すべき勘所を共有しました。
　
社外のエンジニアと学び合えるこうした場を大切にしながら、札幌のAI開発をもっと面白くしていきます。