操作ガイド

やってはいけないこと

この文書について

AIを使うこと自体は禁止事項ではありません。ここに挙げるのは、士業として守秘義務・法令・信用を預かる立場である以上、避けるべき使い方です。「危ないから」ではなく、それぞれに理由を添えます。

1. 支援先の実データを、線引きなしに入れない

会社名・個人名・非公表の数値をそのまま入力すると、それらはAIサービス側に送信されます。設定で学習利用を止められる場合もありますが、仕様は変わりやすく「設定したから絶対安全」とは言い切れません。会社名を「A社」に、売上を「約5億円規模」のように置き換えても、助言としての価値はほとんど落ちません。渡す前に一手間かけることが、いちばん確実な事故防止策です。特に売上や取引先構成など、外部に出た時点で誰かを特定できてしまう情報には注意してください。

2. AIの出力を、検算せずに提出しない

AIは、資料にない数字ももっともらしい言い方で埋めてしまうことがあります(ハルシネーション)。表の見た目が整っているほど、人はかえって中身を疑わずに受け取ってしまいがちです。その資料は診断士の名前で支援先に渡ります。出典の確認を省くと、信頼を失うのは中身を作ったAIではなく、提出した診断士本人です。

3. 法令の解釈を、AIの答えのまま伝えない

AIは条文や制度を、実在するかのような自信のある口調で説明します。しかし法令の解釈は改正や個別の事情によって変わり、特に補助金申請書類の作成代行は行政書士法19条1項(報酬を得て官公署に提出する書類の作成を制限する規定)に関わる可能性があります(本講座でも申請代行そのものは扱いません)。AIの説明は「確認すべき論点の整理」までとして使い、最終的な解釈は専門家に確認してから支援先に伝えてください。

4. 効果を保証する表現を、そのまま使わせない

「必ず」「絶対に」「誰でも簡単に」「業界No.1」といった表現は、根拠がなければ景品表示法(根拠のない誇大な宣伝を禁じる法律)にふれる可能性があります。AIはこうした言い切りの表現を、違和感なく自然に生成します。支援先がそのまま広告やサイトに出し、後に指導を受けた場合、提案した診断士の信用にも関わります。公開前に、断定表現が残っていないか必ず自分の目で確認してください。

5. 認証情報を、AIとの会話に打ち込まない

パスワード・APIキー・トークン・秘密鍵は、マスキング(一部を伏せること)をしても安全にはなりません。個人情報は「A社」に置き換えれば扱えますが、認証情報は値そのものが機密の本体だからです。ログインなどの相談をしたいときは、エラーメッセージの内容・設定項目の名前・実施した手順までにとどめ、値そのものは書かないでください。「一部だけ、伏字にすれば」という判断も避けてください。値の一部からでも、システムの構成を推測できる場合があります。

6. 他の支援先のフォルダを、混ぜない

「参考になりそうだから」という理由でも、指示された支援先以外のフォルダを開かないでください。別の支援先の情報が混ざることは、この作業環境で起こりうる最も重大な事故です。過去の類似事例を参照したい場合は、必要であれば匿名化(会社名や個人名を伏せること)した形にしてから使ってください。

この6つに共通すること

6つとも、AIの性能が低いから起きる問題ではありません。むしろAIが「自然に、自信を持って」答えを作る性質そのものが原因です。この性質を理解したうえで使えば、AIは実務の助けになります。理解せずに使うと、診断士自身の信用に跳ね返ってきます。

迷ったときの基準

判断に迷ったら、渡さない・書かない・断定しない、を既定にしてください。渡さなくても仕事は進みますが、渡してしまった情報は取り消せません。

← 操作ガイドへ戻る