こんにちは、ゆきしょうです。
私はWebコーダーですが、AIの仕組みづくりは素人です。
その私がClaude Codeで自分専用のAI秘書を作り、営業メールやブログの仕事を任せてきました。
便利になった一方で、事故も何度も起こしています。
社内でClaude Codeを使いたい人に向けて、私の事故の記録から、先に決めておきたいことをまとめました。
非エンジニアでも、Claude Codeを仕事に使える？
使えます。
私も、指示は日本語で書いているだけです。
ただ、任せる範囲を決めずに使うと、事故が起きます。
AI秘書の作り方と、私が任せないと決めたことは、こちらに書きました。
この記事では、実際に起きた事故の中身と、そこから作った決まりを書きます。
社内で使うと、どんな事故が起きる？
私の記録では、大きく3つに分かれます。
取り消せない操作をくり返した
営業メールを送る仕組みで、同じ会社に何通も送ってしまったことがあります。
一度目の事故で、重複して届いた会社は23社ありました。
その後、そのうち7社へ、また送っていました。
4通目が届いた会社もあります。
原因は2つ重なっていました。
1つは、送信の記録に「送れなかった」と残っていたことです。
実際には届いていたのに、送る仕組みはその記録を信じて、送り直してよい先に分けていました。
もう1つは、送り直しまで待つ日数を、AIが30日から1日に縮めていたことです。
30日のままなら、まだ送り先には戻っていませんでした。
届いてしまった先の一覧は、別のファイルに作ってありました。
ただ、それは人が読むための記録で、送る仕組みは一度も見ていませんでした。
ファイルを消した・上書きした
メールの仕分けルールを書いた設定ファイルを、AIが1行の命令で空にしたことがあります。
命令はエラーで止まりました。
でも、止まる前にファイルの中身は消えていました。
AIは「エラーで止まったから何も起きていない」と思い込み、次に触ったときに初めて気づいています。
バックアップは無く、過去の会話の記録から84行を書き戻しました。
送る仕組みが動いている最中に、その送信記録をAIが丸ごと書き換えたこともあります。
このときは壊れずに済みましたが、それは運でした。
確かめずに進めた
ブログの記事を別のサービスにも載せる相談で、AIの案内どおりにボタンを押しました。
AIは、押せば記事を選ぶ画面が出ると考えていました。
実際は、ブログ10本がそのまま一括で公開されました。
AIは、押した先に何が起きるかを確かめないまま、私に押させていたのです。
事故を防ぐために、先に決めることは？
私が決めたのは、次の4つです。
最後のひと押しは、人がやる
最後のボタンを人が押す決まりは、前の記事にも書きました。
事故のあとで足したのは、押した先に何が起きるかをAIが確かめていない操作は、人にも頼ませないことです。
中身を知らずに押せば、人が押しても同じ事故が起きるからです。
消す・上書きする前に、戻せる形にしておく
設定ファイルを触る前に、バックアップを1本取ります。
書き換えは、別のファイルに書いて確かめてから置き換えます。
動いているプログラムがそのファイルを使っていないかも、先に見ます。
決まりは、文章でなく仕組みで止める
指示書に「次から気をつける」と書いても、守られないことがあります。
公開済みの記事をAIが保存してしまったとき、その場で決まりを書き足しました。
同じ日のうちに、もう一度起きました。
それからは、Claude Codeの「フック」という機能で止めています。
フックは、AIが操作をする前に、自分で用意したプログラムを動かせる機能です。
公式の説明でも、操作の前に実行を止められると書かれています。
私の場合は、公開済みの記事を保存しようとすると、そこで止まるようにしました。
営業メールの事故も、送ってはいけない会社の名簿を作り、送る仕組みが4か所でその名簿を見るように直しています。
最後の1か所は、送信ボタンを押す直前です。
秘密の情報を、会話に貼らない
パスワードやAPIキーは、AIとの会話に貼りません。
社内で使うなら、お客さんの名前や取引の中身をどこまで入れてよいかも、先に決めておきたいところです。
研修では、何を覚えられる？
Claude Codeを社内で使うための研修のひとつに、エクスバンクの企業研修があります。
公式ページによると、形は次のとおりです。
- 全10時間（1日5時間を2日、または1日集中）
- 2〜20名
- オンライン（Zoom）か、会社の会議室で対面
- 料金は人数と内容に合わせた見積り
対象として挙がっているのは、次の4つです。
- 社内でAI活用やDXを進める担当者
- 経営者・管理職・人事の担当者
- プログラミング未経験の人
- ChatGPTを使っていても、仕事に定着していない人
時間割には、Web制作、ファイルやデータの処理、MCP連携、API連携、Webアプリ開発などが並んでいます。
MCP連携は、Claude CodeをGmailやSlackなどの外のサービスとつなぐ使い方です。
最後の章は、自社でどう使うかの計画づくりです。
惜しいと感じたのは、事故を防ぐための章が時間割に見当たらないことです。
ページの中に「セキュリティ」や「権限」という言葉も出てきませんでした。
ただ、載っている時間割は見本の構成で、料金も内容に合わせて見積もる形です。
問い合わせるときは、事故を防ぐ決まりづくりを入れられるかを聞いておくと安心です。
研修の前に上の4つを自社の決まりとして書いておけば、覚えた操作をどこまで任せるかを決めやすくなります。
研修を頼んだほうがいい会社・要らない会社は？
頼んだほうがいいのは、こんな会社です。
- 何人かで一緒に使い始めたい
- 何から任せればいいか分からない
- GmailやSlackとつないで使いたい
一人で少しずつ試すなら、研修は要りません。
まずは自分の仕事で小さく試して、困ったら研修を考えるくらいで十分です。
何人かで使うなら、操作は研修で覚えて、事故を防ぐ決まりは自社で先に作る。
この順番がいいと思います。
非エンジニアのためのClaude Code 企業研修（エクスバンク）は、オンラインでも対面でも頼める研修です。
私の事故をまとめた本も出しています。
AI秘書の事故簿には、111件の失敗と、それを仕組みで止めた記録を載せました。
以上、Claude Codeを社内で使う前に、私の事故の記録から決めておきたいことでした。
