B型施設の生成AI活用
入力ルールと試し方

最初は「情報」と「作業」を分ける

生成AIは指示に応じて文章などを作る仕組みです。文章を自然に整えても、その内容が正しいとは限りません。公開する商品説明と、本人の支援記録では、入力時のリスクも誤りが及ぼす影響も異なります。

この区分は施設で決める運用ルールの例で、すべての外部AI利用を法律が一律に禁じているという意味ではありません。個人情報を使う業務を検討する場合は、契約・利用目的・取扱体制を別途確認し、職員の判断だけで試さないでください。

名前を消すだけでは入力できない

本人の障害や病歴などは、特に慎重な取扱いが必要な「要配慮個人情報」に含まれます。氏名を「Aさん」にしても、地域、年齢、通所日、家族、出来事を組み合わせて本人が分かることがあります。記号への置換だけで、法令上の匿名加工情報になったとはいえません。

個人情報保護委員会の注意喚起では、入力が利用目的を達成するために必要な範囲内か、提供者が個人データを機械学習など応答以外の目的に利用しないか等の確認を求めています。無料・有料という名前や「学習しない」という表示だけで、業務利用の適否は決められません。

入力前の3つの質問

1. どのサービス・アカウントか: 承認したプラン、端末、設定になっているか。ファイル連携や自動取込みの範囲も確かめます。
2. この内容を外部へ渡せるか: 本人情報、未公開の注文・原価・取引条件、パスワードが入っていないか。添付ファイルの別シートやコメントにも注意します。
3. 誰が、何と照合するか: 商品仕様なら商品担当、計算式なら検算できる担当を決めます。確認できる人がいなければ、その用途では使いません。

一つでも判断できない場合は、送信前に止めて責任者へ相談します。すでにある会話や連携先の情報が混ざる可能性もあるため、文章を貼り付ける欄だけでなく、会話全体と添付・接続設定を見ます。

本人情報を使わずに試せる指示文例

商品説明の言い換え

寸法や素材など施設が確認・公開を認めた情報だけを渡します。本人の障害、製造した人の名前、個別の支援の様子を、商品の価値を補うために加える必要はありません。

使う前に実物と照合し、「日本製」「肌にやさしい」「長く使える」など、入力していない内容が足されていないか確認します。架空の寸法をそのまま商品ページへ掲載しないでください。

架空データで表計算の式を確認する

実際の顧客別売上や本人別工賃表を渡さず、式を試すための数字を新しく作ります。AIから式を受け取っても、会計上の経費区分や工賃の支払ルールは別に確認が必要です。

この条件の計算結果は4,500円です。10％を「10」と入力するのか「0.10」と入力するのかを確認し、数量0、空欄、手数料なしでも検算します。この金額は実績・相場・利用者への工賃ではありません。

実際の商品収支を考えるときは、手数料を含めた価格の試算と注意点も確認してください。式が動くだけでは、経費・税・在庫の取扱いまで正しいとは限りません。

サービス契約と設定で見るところ

資料や管理画面で確認できない項目は、提供者へ問い合わせます。承認後にプラン、機能、連携先を変えた場合も同じ条件とは考えず、再確認します。特定サービスの機能・価格だけで、施設の責任を代わりに満たせるわけではありません。

職員が迷わない最小ルール

職員間で共用のパスワードを配るのではなく、利用者と権限を管理します。新任職員や非常勤職員にも同じ禁止情報と連絡先を伝え、分からない場合に送信を止められるようにします。

出力を使う前に人が確かめる

• 事実: 商品の仕様、日付、金額、数式が元資料・実物と一致するか。
• 情報の追加: 観察していない出来事、本人の気持ち、資格・実績・効能が補われていないか。
• 権利と表現: 他者の文章・画像を無断で使っていないか。本人を一括りにする表現や、同情を求める説明になっていないか。
• 影響: 誤った場合、誰にどのような不利益があるか。確認できなければ使わない。

本人の希望、支援の目標、評価、健康・安全、権利擁護に関する判断をAIだけに任せません。個別支援計画で本人の希望を確認する方法のように、本人と話し合い、実際の支援から確かめる過程を残します。

一つの作業で試す6つの手順

1. 対象を絞る: 商品説明を短くするなど、結果を担当者が確かめられる作業を選ぶ。
2. 情報を選ぶ: 承認された公開仕様か、新しく作った架空データだけを用意する。
3. 比較条件をそろえる: 求める内容と品質を決め、従来の作業と比べる。
4. 人が点検する: 誤りや不足を修正し、公開する場合は責任者が承認する。
5. 負担を記録する: 入力準備、指示、確認、修正までの合計時間と、見落としの有無を残す。
6. 続けるか決める: 負担が増える、確認できない、情報管理に問題がある場合は用途を広げず見直す。

誤入力に気づいたら、すぐ報告する

1. 追加送信・共有を止める: その会話や連携機能の利用を止め、原因の確認で同じ情報を別のAIへ送らない。
2. 責任者へ直ちに報告する: サービス、アカウント、入力・発覚日時、情報の種類、添付・共有の有無を伝える。すべて分かるまで待たない。
3. 必要な記録を限定して保全する: 責任者の指示で証拠を保管し、スクリーンショットを職員全員のチャットへ転送するなど、情報をさらに広げない。
4. 提供者と影響を確認する: 削除・共有停止を依頼し、取扱範囲と回答を記録する。画面の履歴が消えても、提供者側の削除まで完了したとは決めつけない。
5. 外部報告と再開を判断する: 責任者が個人情報保護担当者・専門家と、委員会への報告、本人通知、指定権者等への対応を確認する。再発防止と再開条件も決める。

要配慮個人情報を含む個人データの漏えい等、またはそのおそれは、法令上の報告対象となり得ます。人数が少ないから報告不要とは限りません。個別の入力がどの事態に当たるか、報告先や期限は、情報・契約・事実関係を速やかに確認してください。