１．はじめに
前回は、著作物を生成ＡＩに入力する場面や、ＡＩが生成したコンテンツを企業が利用する場面について、権利侵害や信用への影響との関係から見てきました。このように、生成ＡＩの利用は、入力する情報や利用の仕方によって、問題となるリスクが大きく異なります。
もっとも、企業におけるＡＩ利用は、文章作成や画像生成のような補助的な場面にとどまりません。近年では、ＡＩを用いて市場動向を分析したり、投資判断や事業方針の検討資料を作成したり、さらには人事評価や人材配置の参考資料として活用することも考えられるようになっています。そこで今回は、経営判断や人事評価にＡＩを利用する場面を取り上げ、どのようなリスクがあり、社内規程上どのような備えが必要になるのかを見ていくことにします。
２．想定される事例
例えば、経営企画部門が生成ＡＩに市場動向や競合情報を入力し、今後の投資先や新規事業の方向性に関する分析レポートを作成させ、その内容を経営会議の判断材料として用いる場面が考えられます。あるいは、人事部門が従業員の業務実績、面談記録、評価コメント等をＡＩに入力し、昇進候補者の選定や人事評価の参考資料を作成させる場面もあり得ます。膨大な資料を分析し、将来予測を行うことはＡＩの得意分野でもあり、こうした利用は、一見すると合理的であり、業務の効率化にも資するように思えます。実際、情報量が多く、人の手だけでは整理に時間を要する場面では、ＡＩによる要約や分析は有用です。そのため、現場では「最終的には人が見ているのだから問題ない」「客観的な分析を補助的に使っているだけだ」と捉えられやすいと思われます。
しかし、経営判断や人事評価は、企業活動の中でも特に重要性が高く、その結果が企業の損益や従業員の地位・処遇に直接影響する場面です。そのような場面でＡＩを利用する場合には、通常の業務補助とは異なる慎重さが求められます。
３．どのようなリスクがあるのか
この場面でまず問題となるのは、ＡＩの出力内容を十分に検証しないまま利用することによるリスクです。ＡＩは、一見もっともらしい分析や評価を示すことがありますが、その内容が常に正確であるとは限りません。入力情報の偏りや不足、推論の誤りなどによって、不適切な結論が導かれることもあります。
経営判断の場面では、そのような誤った分析結果を前提に投資判断や事業判断を行えば、企業に損失が生じる可能性があります。また、人事評価の場面では、十分な裏付けのないスコアや分析結果を用いることで、不適切な評価や処遇につながるおそれがあります。経営判断も人事評価も、最終的な影響が大きいからこそ、「それらしい結論」が示されること自体に引きずられないことが重要です。
次に問題となるのは、説明責任の問題です。ＡＩの出力結果を基に重要な判断を行った場合、なぜその結論に至ったのか、後から説明が求められる場面があります。しかし、ＡＩによる分析過程や評価の根拠が不明確であるまま利用していると、企業として合理的な説明がしにくくなります。特に人事評価のように、本人への説明や社内的な納得可能性が重要となる場面では、この問題はより深刻です。
さらに、公平性の問題もあります。ＡＩは、入力されたデータや設計のあり方によって、一定の偏りを含んだ結果を出す可能性があります。人事評価の場面では、性別、年齢、学歴、職歴、働き方などに関する偏りが、意図せず評価結果に反映されるおそれがあります。企業側に差別の意図がなかったとしても、利用の仕方によっては、不公平な結果を生む可能性があるという点を意識する必要があります。
また、人事評価にＡＩを利用する場合には、入力情報そのものにも注意が必要です。評価コメント、面談記録、健康情報に近接する情報、勤務状況など、従業員に関する情報には慎重な取扱いが求められるものが含まれます。そのため、どの情報をＡＩに入力してよいのかという問題も避けて通れません。
このように、この類型では、出力の正確性、説明可能性、公平性、入力情報の管理といった問題が重なります。特に重要なのは、ＡＩを使っていることで判断が高度化したように見えても、最終的な責任までＡＩに委ねることはできないという点です。
４．社内規程整備のポイント
このようなリスクに対応するためには、まず、ＡＩの位置付けを明確にすることが重要です。経営判断や人事評価の場面では、ＡＩを最終判断主体として扱うのではなく、あくまで参考資料や補助的な分析手段として用いることを、社内規程上、明らかにする必要があります。最終判断は人が行うという原則を明確にしなければ、現場ではＡＩの出力に過度に依拠する運用になりかねません。
次に、ＡＩを利用できる範囲を限定することも必要です。たとえば、経営会議の一次資料の整理や、複数データの傾向把握のような場面では利用を認める一方で、投資判断そのものや昇進・降格の決定そのものをＡＩに委ねることは認めない、といった整理が考えられます。どの用途が許容され、どの用途が許容されないのかを明示することで、現場のばらつきを抑えることができます。
また、ＡＩ出力の検証ルールも重要です。ＡＩが示した分析結果や評価結果をそのまま用いるのではなく、複数の資料や人による確認を経ること、特に重要な判断については別の情報源による裏付けを取ることなどを、運用として定めておく必要があります。ＡＩを利用する以上、「出力されたから使う」のではなく、「検証したうえで参考にする」という姿勢を制度として組み込むことが重要です。
さらに、記録を残す仕組みも必要です。どのような情報を入力し、どのような出力が得られ、それをどのように検証し、最終的に誰がどのような判断をしたのかを一定程度記録しておくことで、後から説明が必要になった場合にも対応しやすくなります。特に経営判断や人事評価のような重要場面では、過程が全く残っていない状態は望ましくありません。
加えて、公平性への配慮も欠かせません。人事評価にＡＩを利用する場合には、利用目的や入力項目を慎重に限定し、出力結果に偏りがないかを見直す視点が必要です。評価制度全体との整合も踏まえながら、ＡＩを使うことでかえって不公平な結果が生じないように運用を設計しなければなりません。
また、他の社内規程との連携も重要です。経営判断に関しては決裁規程や内部統制ルール、人事評価に関しては人事制度や評価規程、個人情報管理ルールなどと整合していなければ、ＡＩ利用だけが浮いた状態になってしまいます。生成ＡＩに関する社内規程も、企業全体の意思決定や人事運用の枠組みの中で位置付ける必要があります。
最後に、利用する部署に対する教育も必要です。経営企画部門や人事部門の担当者が、ＡＩの出力をどのように読み、どのような限界があるのかを理解していなければ、どれほど規程を整えても実効性は上がりません。重要な判断にＡＩを使うからこそ、便利さだけでなく、限界やリスクも含めて理解しておく必要があります。
５．おわりに
経営判断や人事評価にＡＩを利用することは、情報整理や分析補助の面で有用である一方、出力の誤り、説明責任の不明確さ、公平性への懸念、入力情報の管理など、複数のリスクを伴います。特に、企業の重要な意思決定や従業員の処遇に関わる場面では、通常の業務補助以上に慎重な運用が求められます。
だからこそ、企業としては、ＡＩを参考資料として利用するにとどめること、利用範囲を限定すること、出力を必ず検証すること、判断過程を記録すること、そして既存の意思決定ルールや人事制度と整合的に運用することを、社内規程や運用ルールとして整備しておく必要があります。
ＡＩは、重要な判断を代替するための存在ではなく、あくまで人による判断を支えるための補助的な手段として位置付けることが重要です。企業においてＡＩ活用を進めるためにも、「どこまで使えるのか」と同時に、「どこからは人が責任を持って判断しなければならないのか」を明確にしておくことが必要であるといえるでしょう。
加藤＆パートナーズ法律事務所（大阪市北区西天満）では、関西を中心に企業法務、企業の内部統制構築（AIガバナンス）、AIポリシー・AIガイドライン等のAIツール導入・利用に関する社内規程整備のご相談・ご依頼をお受けしております。