AIに作らせたツールを業務に載せる前のチェックリスト

生成 AI に作らせたツールを、実際の業務に載せる前の点検表です。17 項目・5 観点にまとめ、 各項目に、チェック例（どう確かめるか）と考慮不足例（見落とすと何が起きるか）を付けています。 印刷してお使いいただけます（ブラウザの印刷機能でそのまま紙に出せます）。

A. 出す答えの点検 — 入れられたか、ではなく合っているか

「入力できた」と「答えが正しい」は別です。 入力の制限をいくら固めても、そのあとの計算や判定が間違っていないかは分かりません。

• 正解が分かる実例で、ツールの結果を元の計算・帳票と照らし合わせた
  • チェック例: 過去の請求書を 1 件そのまま入れ、税額・合計・送付先が元と一致するか見る
• ありえない値・形式違い・項目どうしの矛盾を入れて、入力できない／警告されることを確かめた
  • チェック例: 数量に -5、全角の数字、終了日を開始日より前、をそれぞれ入れて登録を試す
  • 考慮不足例: -5 が通って在庫が増える。全角も通り、検索に出てこない行ができる
• 必須項目を空欄のまま進めると、どうなるか確かめた
  • 考慮不足例: 担当者が空のまま保存され、後から確認も連絡もできない

B. 異常時の点検 — 壊れたとき、人が気づけるか

バグで止まるのは仕方ありません。困るのは、止まったことに誰も気づかないことです。 エラーを表示せずに処理を続けるのが、一番危険な壊れ方です。

• エラーのとき、担当者が気づけて、どれが失敗し、次に何をするかが分かる表示・通知がある
  • チェック例: テスト用の宛先を存在しないアドレスにして送信し、担当者に通知が届くか、 どれが失敗したか・次に何をすればよいかが読み取れるか見る
  • 考慮不足例: 送信だけ失敗し、通知もないまま相手に届かず、翌週まで誰も気づかない
• 頼っている先（メール送信・他システム連携・保存先）が止まったとき、どこまで動かして どこで止めるかを決めて試した
  • チェック例: メール送信の設定をわざと誤りにして、受注登録が通るか・止まるかを見る
  • 考慮不足例: メール送信だけ落ちたのに受注登録まで止まる（止めすぎ）。 逆に受注は通り、送ったつもりのまま出荷される（止めなさすぎ）
• 処理の途中で画面が閉じられたら（回線切れ・誤操作・PC の再起動を含む）、 データがどうなるか確かめた
  • 考慮不足例: 100 件のうち 60 件だけ登録され、どこまで進んだかが分からない

C. 重なりの点検 — 二度押し・同時編集

作った人は 1 人で、落ち着いて試します。 実際は焦って二度押しされ、複数人が同時に触ります。

• 同じ操作を続けて実行しても、登録・送信・支払いが二重にならないことを確かめた
  • チェック例: テスト用の宛先・データで登録ボタンを続けて 2 回押す。完了前に再読み込みもする。 そのうえでツールの中・メール・連携先の記録が、それぞれ 1 件だけか確かめる
  • 考慮不足例: 画面上は 1 件でも、請求メールだけ 2 通送られる。同じ受注が 2 件立つ
• 2人が同時に触ったとき、どちらが残るかを確かめた（古い画面からの上書きを含む）
  • チェック例: 同じ商品を残り 1 個にして、2 人が別々の画面から同時に受注を確定する。 あわせて、同じデータを 2 画面で開いて順に保存する
  • 考慮不足例: 最後の在庫 1 個を 2 人が同時に受注し、両方に確定メールが送られる

D. データの点検 — 在りかと、戻せること

「どこにあるか」を言えないデータは、無くなったときに探せません。 戻せるかどうかは、実際に戻してみるまで分かりません。

• 保存場所・管理する人・探し方を、担当者以外も分かる場所に残してある
  • 考慮不足例: 実はブラウザの中だけに入っていて、PC を替えた瞬間に消える
• 同じ内容が複数の場所にあるなら、正しい元データ・更新する順番・食い違いの見つけ方を決めてある
  • 考慮不足例: ツール・会計ソフト・メール添付で金額が違い、どれを直せばいいか決められない
• コピーを取るとき、元に戻す前提の控えなのか別々に育てる写しなのかが決まっている
  • 考慮不足例: 「念のため」で複製したファイルが各自の手元で編集され、半年後に 5 種類の版が並ぶ
• ページが更新されても、PC が再起動されても、データが消えないことを確かめた
  • 考慮不足例: 動作確認は通っていたが、再起動で初期状態に戻る
• 誤った操作が実行されたとき、操作前の状態に戻す手段がある
  • 考慮不足例: 一括更新が走ったあと、実行前の値がどこにも残っていない
• バックアップから別の場所へ戻し、必要なデータが読めることを 1 回確かめた
  • チェック例: 昨日の控えを別のフォルダ・別の PC に戻し、先週の受注が 3 件開けるか見る
  • 考慮不足例: 控えは毎日取れていたが、いざ戻すと中身が空だった／古すぎた／開く権限が無かった

E. 載せる前の体制の点検

道具の話ではなく、人と権限の話です。 ここが決まっていないツールは、動いているうちだけ便利です。

• 人ごとに利用を分け、見る人と変更する人を分け、不要になった人だけ止められる
  • チェック例: 閲覧だけの人のアカウントで変更を試し、保存できないことを見る。 続けて誰か 1 人の利用を止め、その人だけが開けなくなるか見る
  • 考慮不足例: 共有 ID をみんなで使っており、退職者だけ止められず、誰が書き換えたかも分からない
• このツールが壊れたとき、誰が直すか決まっている
  • 考慮不足例: 作った人が異動し、誰も中身を触れないまま使い続けている
• このツールが止まると、業務のどこが止まるか言葉にしてある
  • 考慮不足例: 止めてはいけない業務だと、止まってから気づく

---

判定のめやす

• 個人情報・お金・外部への送信に関わる項目が 1 つでもチェックできない → その 1 つだけで、業務に載せるのを止めてください
• チェックが付かない項目が3つ以上 → 業務に載せる前に、そこを直してから
• 確かめ方が分からない項目がある → その項目が、いちばん危ない場所です
• 直し方が分からない → まず作らせた AI エージェントに相談し、直してから再チェックしてみてください。 それでも通らない項目が残るなら、そこは専門知識が要るところです。 お困りでしたら、ご相談ください。

株式会社ラヴィ — 要件定義支援・DX顧問 https://www.ravi.fukuoka.jp/