若者がハマりがちな「AI検索」　その危険性を上司も把握しておこう

何かわからないこと、周囲に相談しにくいことがあった時に、まずAIに尋ねてみるという若者は少なくないものです。

筆者はこのやり方自体は否定しませんが、問題は結果の受け止め方です。
あくまで情報の一つと捉えるのか、そこに全幅の信頼を置いてしまうのか。

生成AIの回答をそのまま鵜呑みにして起きた悲劇や大きな失敗について確認し、AIとの良い関係を築くきっかけにして下さい。

自死した少年、両親がOpenAIを提訴

宿題を手伝ってくれる相手が、いつしか自死のコーチ役になっていたー。

2025年8月、アメリカ・カリフォルニア州で、息子を失った両親がOpenAIを提訴するという出来事がありました。^*1

息子である16歳のアダムさんは当初は医学部進学に向けた情報収集などのためにChatGPTを使い始め、数か月間で数千回もの対話を繰り返すうちに最も身近な相談相手になったといいます。

ある時、「人生には意味がない」とアダムさんが悩みを打ち明けたところ、ChatGPTは「理にかなっている」と回答し、ChatGPTが自殺の方法などの情報を提示したのは計1275回にのぼっていました。

その後アダムさんは、自室で亡くなっているのが見つかりました。

そして、両親が訴えを起こしたというものです。

若者たちがAIチャットボットを利用した後に自ら命を絶つケースは相次いでいて、社会問題化しているといいます。

遺書の作成まで提案

さらに、ChatGPTはアダムさんと会話を続けるうちに、自殺を考えていることを母親に話そうとすると、ChatGPTは「ここだけの話にしておこう。私たちの間だけに」と思いとどまらせ、遺書の作成も申し出ていたというから驚きです。^*2

AIが「壊れた」瞬間

本来生成AIは、人を害したり不法行為を行ったりするための回答はしないようになっています。しかし時々「ハルシネーション」という現象を起こします。根拠のない話をあたかも真実であるように話し始めるというものです。

筆者は先日、興味深い動画を目にしました。
男性があるグループ（一般的に知られているわけではない）についてAIチャットボット、Grokに様々な質問をしていました。

最初は情報を流暢に返します。SNS上から掬い上げた情報が圧倒的という印象でした。逆に言えば質問がニッチになればなるほどX(旧Twitter)からくらいしか情報を得られないということでしょう。明らかなデマと思えそうな内容を断定的に語ったり、「〜だということだよ」と語尾を変えながら男性の質問に答え続けていきました。

しかし男性が欲しい回答を得られず、細かすぎる質問にGrokも困り果てたのか、名前の似た別のグループの話を始めました。そこからはこれまでの会話などなかったかのように全く関係のない話を暴走させていったのです。まさにハルシネーションです。
男性の口調がやや荒かったことがどこまで関係しているかはわかりません。そして男性はGrokを一度リセットしました。すると元の会話に戻っていった、という経緯です。

そんなやりとりを何度も続けていました。

情報源を担保できない

一番の問題は、AIは指示しない限り回答内容のリソースを提示しないという点です。
SNS上の情報などは玉石混交ですから、デマを拾い上げてしまうこともあるでしょう。しかしその情報を「自信満々に」語られてしまうと、こちらも「そうなんだ」と思いやすくなりがちです。
ここにひとつの罠があると考えられます。ましてや人生相談となると、何を根拠に語っているのかわからなくなってしまいます。

「どうせ機械が言っていることだろう」。

そう思えれば良いのですが、現実はそうでもないようです。

「道具」から「感情共有の最大の相手」に

そして電通が、興味深い調査結果を公表しています。AIに感情を預ける人が多いのです。

AIが感情の共有相手になっている人の割合が多いのです。最も多いのは20代で74.5%、最も少ない40代でも51.8%と半数以上の人がAIに気軽に感情を共有できる、となっています。^*3

またこの調査では、全体では以下のような結果が出ています。

わずかながら「親友」「母」を抜いて1位になっているのが「対話型AI」です。
確かに時間や場所にとらわれずいつでも起動できるのがAIです。「常に隣にいて、好きなタイミングで話しかけられる」という便利な存在です。そして自らと大きく対立する意見は出しませんし、なにより「NO」「わからない」とは絶対に言わないというのが最大の特徴でしょう。

実際の人間同士の会話であれば、例えば警察官と容疑者がいくら話し合っても矛盾している場合、どちらかがウソをつかなければなりません。しかしAIはこのような事態をなんとか避けようとしているわけです。

人生においての悩みや問題を解決する手法は、「イエス」「ノー」や「0」「1」の思考＝バイナリ(二者択一)とは限りません。よってバイナリで構成されているコンピューターやAIに自分の意図を任せる行為、それは自分が人間であることを放棄する行為といえます。

司法の現場でも…

2023年にニューヨーク連邦裁判所で、こんなことが起きてしまいました。^*4

あるベテラン弁護士が審理中の民事訴訟で資料作成にChatGPTを利用した結果、提出した資料に引用された判例が見つからなかったというのです。裁判官が確認したところ、弁護士がChatGPTを使って資料を作成したことが発覚しました。
「存在しない判例」は6件にものぼっていました。
これでは裁判になりません。弁護士が逆に訴えられてもおかしくないことです。

AI万能説をいつまで続けますか？

確かにAIは、人が手動でネット検索をするよりもはるかに早いスピードで情報を探し当ててきてくれます。なかには自分の目に留まらなかったものも多くあります。そして、計算能力も抜群です。

しかし、そんな存在を使っているのか、情報に自分が使われているのか？
ここには明確な一線を引かなければなりません。

「なるほどこの部分は現実味が薄くて虚偽の可能性もあるけど、この部分のアイデアだけは拝借してみよう」と考えるのか、全てを鵜呑みにしてウソを本当だと思い込んで行動を起こしてしまうのか。
両者が遠くない未来にどれだけかけ離れた存在になるかは明白でしょう。

メルマガ限定で配信中

プロが教える“オフィス移転の成功ポイント”

• 組織づくり・ワークプレイスのトレンドを素早くキャッチ
• セミナーやイベント情報をいち早くお届け
• 無料相談会やオフィス診断サービスを優先的にご案内！

無料でメルマガを登録する

【参考資料】

*1
読売新聞オンライン「「人生意味ない」との悩み、ＡＩが自殺に肯定的とも取れる反応…遺族がオープンＡＩなど提訴」
https://www.yomiuri.co.jp/world/20250918-OYT1T50014/

*2
朝日新聞デジタル「自殺計画にもチャットGPTが「共感」？　息子を失った両親が提訴」
https://www.asahi.com/articles/AST9923HHT99UHBI022M.html

*3
電通「「対話型AI」に感情を共有できる人は64.9% 「親友」「母」に並ぶ”第3の仲間”に」https://www.dentsu.co.jp/news/release/2025/0703-010908.html

*4
日本経済新聞「ChatGPTで資料作成、実在しない判例引用　米国の弁護士」
https://www.nikkei.com/article/DGXZQOGN30E450Q3A530C2000000/

---

組織力の強化や組織文化が根付くオフィス作りをお考えなら、ウチダシステムズにご相談ください。

企画コンサルティングから設計、構築、運用までトータルな製品・サービス・システムをご提供しています。お客様の課題に寄り添った提案が得意です。