「お客様からの問い合わせメールに対して、AIが自動で返信文の下書きを作ってくれるシステム」を導入したセンターでの話です。オペレーターは作業が楽になると大喜びでしたが、数日後、大クレームが発生しました。お客様からの「商品が壊れていた」というメールに対し、AIが「それは大変でしたね！すぐに新しいものを無料で発送しますのでご安心ください！」という、社内ルール（まずは写真での確認が必要）を無視した、あまりにも軽率で馴れ馴れしい返信文を作ってしまい、オペレーターが気付かずにそのまま送信してしまったのです。

生成AIは、言葉を紡ぐ能力は天才的ですが、あなたのセンターの「独自のルール」や「ブランドイメージ（丁寧さの度合い）」は一文字も知りません。それはまさに「日本語はペラペラだけど、自社の業務ルールや常識を1ミリも知らない、入社初日の新人オペレーター」を、教育もマニュアルもなしにいきなりお客様の前に座らせるようなものです。指示文とは、AIにとっての「業務マニュアル」そのものでなければなりません。

「商品破損の問い合わせ対応」を例に、人による判断とAIによるメールの下書きの役割を分けてみます。

「約束する」「最終判断する」部分は必ず人に残し、「文章の型を作る」部分だけをAIに渡す。この線引きがクレームを防ぎます。

☐ よく発生する問い合わせパターンを1つ選ぶ

☐ 上の表の3項目（可否判断・温度感・次アクション）について、人とAIどちらが担うかを決める

☐ AIの回答案に必ず人の確認を挟むルールにする

AIは日本語こそ流暢でも、自社の応対ルールは一切知りません。「約束する・最終判断する」部分は必ず人に残し、「文章の下書き」だけをAIに任す。この分担がクレームの芽を未然に摘みます。