生成AIを業務で使用する問題点について

最近、社内外におけるAI（特に生成AI）の業務活用ガイドラインやガバナンス改訂に関わる機会が増えました。

背景としては、2024年頃に得体も知れない生成AIの活用ルールを暫定で各組織決めましたが、最近になって、生成AIで何ができるのか、また法的・倫理的にどのような影響があるのかが徐々に明らかになってきたため、ルールを更新しようという動きが同時多発的に起きているというのがあると思います。

AIエージェントやMCP連携など、生成AIにできることがこれからさらに増えていく中、変化に対応するためにその対応に迫られているという事情もあります。

自分はエンジニアとして、AIエージェントやMCPサーバー構築、運用をやっているので、正直そこまで上流の部分は専門外です。ただ、複数の企業のAI活用の推進に従事していますし、私個人がAI利用の業務適用範囲を広げることに対して慎重派（というか否定派。AIはニッチな技術として一部のユースケース限定して利用）なのでこういう話も来るのかなと思います。

現在の企業活動における生成AI活用の現状を俯瞰してみると、業態（BtoCか、BtoBか）や立場（情シスか、DX部門か、法務か、現場か）によって生成AIのリスクに対する認識が違っているんですよね。ただ、生成AIブーム以前からAI利用のガバナンスに関して検討してきた身からすると、ちょっとまた見え方が違ってきます。

というわけで、生成AIのビジネス利用に関してこんな問題があるというところをまとめていきたいと思います。

生成AIモデルそのものが抱える法的・倫理的課題

あまり生成AIモデル（LLM）のユーザー企業は注目してませんし、日本はかなりこの問題に対して柔和な態度をとっているので、軽視されがちですが、LLMの存在自体の根本的な問題として今までグレーな行為として暗黙の了解のもと実施された著作物の学習という一種のタブーを堂々と犯しています。

LLMが流行る前（2023年以前）私が自然言語処理モデルを学習する際は公開済みのデータセットを探して、作成者に許可を取って使っていました。

Web上の情報を学習用途で利用する場合、大企業が事業活動として行う際には、法的な問題がないか注意して進めるのが業界の慣習だったかと思います。

商用目的ではない、個人の活動や研究機関のほうが著作物の学習に関しては寛容だったので、企業では無理だけど研究機関ならもう少し踏み込んだ開発ができるといった風潮がありました。

日本では、2018年に制定された著作権法30条の4により著作物の学習に関しても法的な裏付けがありましたが、それでも、著作者の利益を阻害しない（具体的に言うと著作物の記載された内容の代替となっているデータを生成しない）という紳士協定のもとAIモデルの開発は行われていました。

LLMはネット上の著作物を無許可でスクレイピングして学習に使用しています。これは現状の法律の解釈によりますが、裁判によっては違法になりますし、現時点でも大量の訴訟を抱えています。

文章でも画像でも、動画でもLLMというかその基盤技術である深層学習は学習した著作物をそのまま出力したり、2つのデータの要素を数値（ベクトル）として表現し確率的に混ぜ合わせて新たなデータを出力することができます。

つまり、ネット上に公開されている文章や画像をユーザーの意図通りちょっとだけ改変してパクるということができます。というよりも、深層学習モデルの出力は、学習データから獲得した特徴を組み合わせて生成されます。言い換えれば、生成AIの出力は完全に新規のもではなく膨大なデータをもとにしたコラージュであると言えます（人の捜索活動も最初は模倣からはじまりますが、完全な新規性をAIによって生み出すことは困難になります）。

もし、あなたの著作物がAIにパクられて類似のコンテンツが見知らぬ人物に大量に作成されたらどうでしょうか？しかも、それがあなたがプロとして生計を立てているコンテンツをだったら？さらに、生成AIによりコンテンツをパクった人物がお金を稼いでいたらどうでしょうか？

今の対応は違法だけど経済的なメリットを考慮して暫定的に行政も許可している状態で、国によっては規制に乗り出しています。

また、法律的に問題がなくても、著作者の立場に立てば自身の著作物を勝手に学習に使用されて、類似の生成物を他者が商品として利益を上げる現状に対して企業が倫理的にそれを黙認するのか？自身もその現状に加担するのか？加担している自分たちを消費者はどう評価するのか？という問題もあります。

プログラミング界隈の文化が他の著作物にも適用されてしまった

さて、ここまでの話で生成AIの学習に勝手にネット上の著作物を片っ端から学習に使用するのはとち狂っているように思えますが、ソースコード・プログラムコードに関しては、こういった他者がコードを再利用する文化が存在します。

1つ目はOSS（オープンソースソフトウェア）の考え方が存在していること。OSSは業界の発展のために自身が開発したプログラムを他者が再利用できるように、再利用の規約を定めた状態で公開する文化のことを指します。OSSは2000年以後に急速にIT界に普及した概念で、現状ソフトウェアの開発はOSSによって他者が公開したコードを無料で活用し、その一部はまた公開するという前提で行われています。

したがって、OSSのもとネットに公開されたコードを生成AIが学習し、類似のプログラムを生成することには業界関係者は違和感を感じないですし、ライセンス形態によって細かい利用範囲が定義されているので法的な問題も生じにくいです（逆に生成AIの利用はライセンス範囲が細かく定義されていないことも問題と言えます）。

2つ目はコードはPythonやJavaといったプログラミング言語というソフトウェアに対する設定であり、その成果物は作品としての特性を持たないこと。つまり、さすがにソフトウェアやアプリケーション、システムは開発の成果物であり、著作物といえますが、それを構成している個々のプログラム（さらにそれを構成している1行1行のソースコード）は著作物ではないという意識が徐々に業界全体に広まってきました。

もちろん、今でもプログラムやソースコードを商品として販売している場合もありますが、ライブラリやモジュールと呼ばれる汎用プログラムレベルだと無料の場合が多いです。

ただこれはあくまでIT業界特有の事情で、文章、画像や音声、音楽といったものは公開されているからといって、再利用を前提とされているわけではなく、例えば、画像データや音声データをコラージュやリミックスに使用する場合は法的にも倫理的にも許可が必要なので、コードの考え方を画像や音声に適用するのは間違っています。

文字列はどうかというと、ビジネス文書は作品ではないですが、例えば白書や解説書、小説などは著作権もありますし、その文章を売ることで生計を立てている人物がいます。となると、著作権を侵害したコンテンツや有料コンテンツなどをサイトの認証や購入手続きを貫通して学習データに使用してしまっている生成AIが生成する文章を利用することも検討すべき事項だと思います。

私は趣味でブログをやっていますが、もしこれで生計を立てていてブログの内容が生成AIの学習に使用されたと知ったら当然憤ると思いますし、回答生成時に参照されるだけでも不快に思います（読者には生成AIに引用された文章ではなく、ちゃんとサイトを読んでほしいです。勝手に生成AIに自分の文章が学習されたり引用されるのは違和感があります）。

生成AIを使用することだけでも法的、倫理的リスクを伴う

というわけで、生成AIはもはや存在していること自体が黒よりのグレーと言えます。なので、それを利用しているユーザーも、責任をとらされる可能性はあります。

今は法律では裁かれなかったり、そこまで炎上のリスクはない行為でもあっても、過去の生成AIを使用して行っていた行為に対して、あとから裁かれたり、炎上するリスクはあると思います。

現在は、行政も消費者も生成AIが一体何者でどういう害が存在するかわからない（わかってきた）状態だと思うんですよね。ですので、事例として実害が報告されていけば徐々に生成AIに対する対応は厳しくなっていき、利用範囲も限定されていく可能性はあります。

遡って罰せられる可能性は少なくても、生成AIの出力が含まれる製品やサービスが後々、生成AIを利用した部分が黒になったことで、存続できなくなる可能性はあります。したがって、現時点から生成物の利用範囲は明確に限定していく必要があります。

それでも、そのルールの境界部分ってどこになるの？と思われますが、ビジネス利用に関しては社内か社外かが最も重要かと思います。

正直、社内で出回っていた生成物があとから違法になっても外部からそれを証明して罰することはできませんし、そもそも指摘される可能性は少ないです。あと、著作者の権利の阻害も限定的になりますし、問題があれば簡単に撤回することができます。

ただ、インターネット上に生成AIの利用の証拠となる情報を公開してしまったり、販売した製品に生成AIの出力を含めてしまうことで、あとから自分たちが不利になります。

したがって、生成AIの利用は社内と社外で明確に線引きしたうえで社外での利用はその利用範囲をリスクを考慮したうえで制限すること、そしてリスクを許容するのなら消費者にどこに生成AIの生成物を利用しているのかしっかりと説明することが重要になります。

これから生成AIの期待値が下がっているなかで世間の目はより厳しくなる

そもそも、ここまで人類が生成AIに甘いのは、その生成AIが経済全体に与えるメリットがデメリットを大きく超えるのではないかという期待。というか、夢（もはや、幻想）によるものでした。

ここ数年間、社内外に生成AIを普及させ、ビジネスメリットを創出しようとしてきた身からすると、徐々に現場レベルからこの幻覚から、人々が目を覚ますタイミングがやってきます。

著作権以前に開発・運用コストがあまりにも高すぎるわりに、普段の業務の中で生成AI活用できる部分があまりにも少ないことが問題になります。

そんなことないのではないか？と思われるかもしれませんが、読者の方の日頃の業務で生成AIが活用できている部分ってどのくらいありますか？

この質問に対するあなたの現状が答えだと思います（生成AIの誕生で就労時間が半減したり、収入が爆上がりした方もいらっしゃるかもしれませんが・・・）。別にあなたの環境が遅れているわけではなく、それが生成AIが業務に適用できる範囲ということです（正直なところ生成AIを活用できていると主張している企業の発表はお金を集めるための投資家向けの発表が多く、実態とかけ離れています）。

そして、活用できる部分も革命的に効率化できるわけではないので、コストに対する効果がわかってしまえばその少なさに幻滅するユーザーは増えていきます。

生成AIが最も得意なことはソースコードを書くことで、ITの開発の現場もこれでエンジニアの数を何人も削減できたとか、納期を何か月短縮できたとかそういう具体的な成果は聞きません。

元からコーディング作業は作業時間で言えば全体の数割にすぎませんし、実装作業でもせいぜい1つ1つの作業が何%効率化されたくらい留まっています。もとからブラックな業界だったので、エンジニアの働き方が少し改善されたぐらいで導入効果は目に見える形では出てきませんでした（それでもかなり業界の人間にとってはありがたいことです）。

となると、期待を裏切られたと感じて、人々が生成AI、さらにはAIという技術自体に対して手のひらを返す時がきます。過去にも何度もAIブームは終わりを迎えていて、その度にAIはおもちゃでビジネスでは役に立たないものだと嘲笑されてきました。

人々のAIに対する幻滅はそれまでの期待の裏返しであり、その期待が大きいほど、より強くなります。したがってより一層、AIに対するあたりは辛辣なものになります。

それは、AIという技術自体やAIの開発者、それを業務に導入しようとしたベンダーに向けられるのは当然ですが、いままでAIを業務に利用してきたユーザーが対象になる可能性はあるのではないでしょうか？

　

ここまで、生成AIのことをかなりネガティブに書いてきましたが、やはりIT技術としては生成AIは面白いんですよね。強力かどうかは別にして（人間が使用する曖昧な自然言語をシステムの入出力として扱えることができるようになったのは革命なのですが、それゆえに厳格に入出力が定義され、企画されてない入力受け付けない既存プログラムとの親和性があまりにも低いんですよね・・・）、

したがって、用法用量を守って適度に生成AIを使いましょうという話だと思います。そのためにはあなたの生成AIの使用実態は適切か一度考えてみることをおすすめします（ちなみに、私は考えた結果、業務で生成させられるのはコードとビジネス文書のみだと判断したので、宗教上画像含めてその他のデータを生成AIで生成できないことにしています）。

　

それでは。