GoogleのAI Geminiを積極的に使い始めて2カ月です。
私が主に活用しているのは、わからないことを教えてもらうことと、画像と動画を生成してもらうことです。
しかし、生成AIを使う上で気をつけなければならないことは、AIには、もっともらしく嘘をつくハルシネーションを起こす性質があるのを常に意識する必要があることです。
私は、先月27日に、かつて貨物駅として存在感を持った汐留駅を空撮したような動画を生成し、YouTubeに投稿しました。
その動画を見てくれた人から、私の動画にした汐留駅が、実在した駅とはかけ離れているという趣旨のコメントを頂戴しました。
私は、朝日新聞の土曜版で、成田空港反対闘争があった時代、汐留駅から乗務した国鉄職員の記事を読み、当時の駅の佇まいに興味を持ちました。Geminiに接していたので、当時の駅の様子を画像にしてもらうことを思いつき、生成してもらいました。
私は当時の駅のことを知りません。過去に、駅を撮影した写真や映像を見たことがあったかもしれませんが、鮮明に思い出すことはできません。
Geminiに生成してもらった空撮風の画像を見て、こんな感じなのか、と思っただけでした。私は駅の構内が広大であったことをGeminiから知識としてすでに得ていたので、その割には、あまり広く見えない画像のようには感じました。
その一枚の画像を基に、動きのある動画を、動画生成AI FLOWに動画を生成してもらい、それを、1965年当時の汐留駅として投稿しました。
その投稿動画にコメントをくれた人は、当時の駅をよく知る人なのかもしれません。
なお、私はその動画の説明欄に次のように書いています。
GoogleのAI Geminiを使い、動画生成AIのFLOWで生成した動画です。動画に映っているのは、1965年、東京にあった貨物専用駅の「汐留（しおどめ）駅」です。と私は断定できません。画像生成AI Nano Banana Proに、当時の汐留駅の画像を生成してもらい、それを基に動画にしているからです。だから、これが間違いなく、当時の汐留駅とはいえません。なんとなくそんな感じ、と受け取ってもらうのが良いと思います。
私は、AIを使うようになったこの2カ月間だけでも、AIがハルシネーションを起こすことは体験的に理解しています。
画像生成においても、野鳥のツグミの生成で、日本で見かけるツグミとは違うことがわかりました。また、大坂の滝畑ダムと周辺の画像でも、生成された画像と実物が違っていることを確認しました。
私が訊いたことに対しての回答にも、事実とは違うことや、ちょっとした間違いがあると思います。
今回コメントをいただいたことで、対策を考え始めました。
私が動画にした汐留駅が実在した駅と違うことがわかりました。そうなのであれば、動画を削除するか、動画のタイトルを変更するなどの対応が必要になります。
動画のタイトルを「1960年代風S留ハルシネーション駅」に変更した上で、動画説明欄に次の文章を追加しました。
本動画を見てくれた人から、実在した汐留駅からはかけ離れているといった趣旨のコメントを頂戴しました。当時を知る人や、鉄道施設に関心を持つ人には申し訳なく思います。AIで生成したら、こんな感じになった、と鷹揚に受け止めてもらえたらと思います。◇ 関連ページ：貨物駅時代の汐留駅風動画（https://indy-muti.com/76261/）
また、今後、AIを使って動画を作る上で気をつけなければならないことに気づかされました。
私は、実在する人物を動画にすることは考えていません。私が動画にするとすれば、実在する動物や土地などです。この場合も、それが実在するものと同じであることが確認できなければ、動画にすべきではないと考えました。
AIから受け取った文章にしても、それに間違いがないかどうか、慎重に検討する必要があります。
だからといって、AIの可能性を否定する考えはありません。今後も上手に活用していくつもりです。その一方で、ハルシネーションには気をつけようということです。
今回のことは、AIとの向き合い方を見直すきっかけになった、と受け止めることにします。