［社説］生成AIは特徴を生かし上手に使おう
#社説 #オピニオン #生成AI
2024/1/10 2:00
米紙ニューヨーク・タイムズ（NYT）はオープンAIとマイクロソフトを提訴した。
米オープンAIが対話型生成人工知能（AI）の「Chat（チャット）GPT」を2022年11月末に公開してからわずか1年余りで、生成AIは職場や個人生活に高速で浸透した。インターネットやスマートフォンと同様、生成AIも人間社会を大きく変えると想定すべきだろう。
生成AIには事務作業の効率を上げるなどメリットがある半面、有害情報の氾濫や権利侵害などのリスクもある。リスクを抑制するには政府や国際社会のルール整備が肝要だ。
チャットGPTが記事を無断使用しているとして米紙ニューヨーク・タイムズがオープンAIとその大株主のマイクロソフトを提訴した背景にもルール整備の遅れがある。日本でも生成AI時代の著作権保護は喫緊の課題だ。
一方、私たち利用者自身も生成AIの特徴を理解し、上手に使いこなしたい。
現状の言語生成AIには共通の得手不得手がある。得意技は流ちょうな話し言葉や文章、ソフトウエア・プログラムを作ること、つまり「作り話」だ。半面、自らが発した言葉の真偽の区別と確認は苦手であり、言葉の意味や論理の「理解」は不可能だ。
このため、ネット検索の代わりとして事実関係を調べる際、頼りにするのは危ない。事実関係が正確で論理的整合性がとれている必要がある業務文書に、AI生成文をそのまま使うべきではない。むしろ、流れや構成がうまく整った文章の下書きやひな型を作らせるのに適している。
論文や訴状など長い文章の要約でも注意が必要だ。
米新興企業のベクタラが昨秋公開した実験では、読み込んだ文章だけを参照してその要約を作るようオープンAIやグーグル、メタなどの主要な生成AIに指示した。すると全てのAIが、読み込んだ文章に書いていない事実関係をでっち上げることがあった。
つまり、書き下ろしでも要約でも、AIの生成文を人間がチェックしないでそのまま使うのは危ない。政府や企業、法律事務所などが文書の要約や作成に生成AIを導入しようと動いているが、生成文には誤りが含まれることを前提に活用法を探るべきだ。
事実確認ができる生成AIの開発も進むが、基本的に未熟な技術だ。あくまで人間を補助する道具として活用したい。
