source_media: CNET Japan source_title: AIが生成した「偽の引用」が14万件超、科学論文の信頼性を揺るがす事態に

本文： 参照ニュース：AIが生成した「偽の引用」が14万件超、科学論文の信頼性を揺るがす事態に（CNET Japanより引用）

ある日、自分が確かに発信したはずの大切な言葉や創作が、まるで最初から存在しなかったかのように消え去っていたら――。あるいは、あなたが発信してもいない「偽物の発言」がスクリーンショットとしてネット上にばら撒かれ、本物の投稿は削除されて証明の手段を失ってしまったら、どうしますか？

「そんな極端なこと、普通は起きない」と思われるかもしれません。しかし、私たちが「絶対に正しい事実の積み重ね」であると信じて疑わない領域でも、データの信頼性が崩壊する深刻な事態がすでに大規模に始まっています。

先日、CNET Japanが報じたニュースによると、主要な4つのデータベースで公開されている科学論文を調査した結果、AIがもっともらしく捏造した「この世に存在しない偽の引用（参考文献）」が約14万6900件も見つかったというのです。 科学の世界は、過去の正しい研究データを1段ずつ積み重ねることで成立しています。しかし、研究者がAIの出力した「ハルシネーション（もっともらしい嘘）」を十分に検証せず、そのまま参考文献として論文に引用してしまった結果、学術界の信頼そのものが内部から汚染される危機に瀕しています。悪意の有無に関わらず、「嘘が真実として流通してしまう」この問題は、私たちの日常的なインターネット空間でも確実に起きている、そしてこれからさらに深刻化するリスクなのです。

Web3エンジニアとして、この現状には非常に強い危機感を抱いています。そもそも、私たちが日頃「証拠」として扱っているデジタルデータ、例えばWebサイトのスクリーンショットなどは、技術的に見ればあまりにも脆弱で、証拠能力としては極めて不十分です。

その理由は、大きく分けて2つあります。

1つは、「ブラウザの要素検査による数秒の書き換え」が容易に可能だからです。 特別なハッキングツールなど必要ありません。一般的なパソコンのブラウザに標準搭載されている「デベロッパーツール（要素検査）」を開けば、表示されているHTMLテキストやアカウント名、日付、数字などを、数秒で誰でも自由に書き換えることができます。書き換えた状態で画面をキャプチャすれば、あたかも本物に見える「偽のスクリーンショット」が瞬時に完成します。これを見分けることは、肉眼では絶対に不可能です。

もう1つは、「AIによるピクセル単位の捏造」です。 現在の画像生成AIや画像編集ツールの進化は目覚ましく、ピクセルレベルで完全にノイズを取り除いた形で、架空のSNS投稿画像や改ざんされた証拠写真を出力できるようになっています。これらはデータ的な不整合（編集痕）を残さないため、フォレンジック（デジタル鑑識）の技術でも偽装を見破ることが困難になってきているのが現状です。

このように「何が本物で、何が偽物か」の境界線が消失しつつある今、私たちはどのようにして自分の大切な発言や、トラブルの際の防衛策としての証拠を守るべきなのでしょうか。

その解決の鍵を握るのが、ブロックチェーン技術を用いたデータの不変性担保です。私たちが展開するデジタル証拠保存サービス「ProofBase」では、この課題に対して「Sui（SUI）ネットワーク」を基盤に採用し、確実なデータ保存システムを構築しています。

ProofBaseに記録されるデータは、保存された瞬間にそのファイルの固有の値である「ハッシュ値」が計算され、ブロックチェーン上に記録されます。ハッシュ値はデータが1文字でも変更されると、全く異なる値に変わるという特性を持っています。そのため、ブロックチェーン上に刻まれたハッシュ値と、手元にある元のデータを比較することで、「その時点で確かにその内容で存在し、その後1ミリも改ざんされていないこと」を数学的にいつでも客観証明することができます。

さらに、なぜ数あるチェーンの中から「Sui」を採用したのか。そこには、Sui独自の「オブジェクトベース」のデータ管理モデルという強力な優位性があります。 一般的なブロックチェーンは、アカウントの「残高」を管理する「アカウントベース」の設計ですが、Suiはデータそのものを独立した「オブジェクト（物）」として直接管理します。この設計のおかげで、特定のSNS投稿や撮影された写真など、一つひとつの個別のデジタルデータを、独自の所有権や属性を持ったままオンチェーンで安全に永続化させることができます。さらに、Suiの並列処理による超高速なトランザクションと極めて安価なガス代（手数料）により、日常の細かな投稿やメモを、コストを気にせず、瞬時にブロックチェーンに書き込むことが可能になりました。

「真実」が嘘に塗り替えられ、自分の大切な言葉や証拠が簡単に消し去られてしまうかもしれない――そんな不信に満ちた社会の訪れを、技術で防ぎたい。私はWeb3エンジニアとして、そしてProofBaseのオーナーとして、どんな悪意からもあなたの「事実」を守る盾を提供し続けたいと決意しています。真実を真実のまま、未来へ残すために。

【ProofBase案内】 もし少しでも不安があるなら、 “あとから疑われない形で記録を残す”という方法を一度確認してみてください。