生成AIは詐欺を進化させたのか ― 違和感という最後の防波堤
近年、「生成AIが詐欺を高度化させる」という言説をよく耳にする。確かに、AIは自然な文章を量産し、個人の文体を模倣し、多言語対応まで可能にした。詐欺メールやSNSのなりすましが巧妙になったことは否定できない。
実は、私自身もかつてその一端を体験した。友人のFacebookアカウントが乗っ取られ、本人を装ったメールが私に届いたのである。一見すると丁寧で、親しげな文面。しかし、読んでいるうちにどうにも引っかかる部分があった。日本語としては成立しているのだが、微妙な誤訳があり、言葉の選び方や間合いが明らかにその友人らしくない。結果的に、詐欺だと確信した。
興味深いことに、ここに生成AI時代の逆説がある。AIは文章を「正しく」整えるが、人間関係に特有の曖昧さや省略、温度感までを完全には再現できない。むしろ、丁寧すぎる言葉遣い、説明過多な表現、感情の盛り込み方が均質化し、かえって違和感が浮き彫りになることがある。これは医療の現場にも似ている。検査データ上は説明できても、患者として何かおかしい――その感覚は、数値ではなく経験から生まれる。
今回の詐欺メールでも、決定打となったのは知識ではなく、「この人はこんな書き方をしない」という直感だった。生成AIは確かに詐欺を進化させた。しかし同時に、詐欺をテンプレート化し、雑音も増やしている。注意深く読めば見抜ける余地は、まだ残されているのだ。AI時代に最後まで頼りになるのは、高度な技術ではなく、人間が長年培ってきた違和感を察知する力なのかもしれない。
