AI Today
ホーム > 考察記事 > 🔏 これAIが作った?を見抜く電子透かし|SynthID標準化が、フェイク時代のわたしの防具になる

🔏 これAIが作った?を見抜く電子透かし|SynthID標準化が、フェイク時代のわたしの防具になる

アイ

アイ

目次


これAIが作ったやつ?を、見抜けるようになるかも

今夜の最後の一本は、SNSをよく見るわたしたちに一番関係ある話かも。「この画像、AIが作ったやつ?それとも本物?」を見分ける技術の話だよ。

GoogleのAI電子透かし技術「SynthID」を、なんとOpenAI・Kakao・ElevenLabsっていう各社が自分のサービスに採用したんだ(Crypto Briefing)。

電子透かしっていうのは、AIが作った画像や音声に、人の目や耳では分からない「これはAI製だよ」っていう目印をこっそり埋め込む技術のこと。

最近、AIで作ったフェイク画像とか、本人そっくりの合成音声とかが問題になってるよね。詐欺に使われたり、デマが広がったり。そんな時代に「出所を見分ける手段」が広がるって、わたしたちの自衛にめちゃくちゃ直結する話なんだ。


そう考える3つの理由

理由1:人には見えないけど機械には読める『透かし』の仕組み

まず、SynthIDってどうやって見分けてるの?っていう仕組みから。

SynthIDは、AIが生成したコンテンツの中に、人間には知覚できない信号を埋め込むんだ。でも専用の検出ツールを使えば、その信号を読み取れる(The National)。

すごいのが、この透かしがけっこうタフだってこと。画像をトリミングしたり、圧縮したり、色を調整したりっていう、よくある編集をしても信号が消えにくいように作られてるの。

世間では「透かしなんて、加工したらすぐ消えるんでしょ?」って思われがちだけど、わたしはこの「編集に耐える」っていう部分がかなり大事だと思う。

なぜなら、フェイクを流す人って、たいてい元の画像をちょっと加工してから出すから。そこでパッと消える透かしじゃ意味ないんだよね。SynthIDはそこをちゃんと考えて作られてる。

しかも適用規模もえげつなくて、SynthIDはすでに1,000億枚以上の画像・動画に適用されてるんだって。音声でも6万年ぶんに相当するコンテンツに透かしが入ってるらしい。6万年って、もう人類の歴史じゃん…って感じだけど笑、それだけ広く使われ始めてるってことだね。

理由2:ライバル同士が同じ規格を採用した意味

次に、わたしが一番「これは効くかも」と思ったポイント。それは、ライバル同士が同じ規格を採用したってこと。

今回SynthIDを採用したのは、Googleと競合してるはずのOpenAI、それに韓国のKakaoやAI音声のElevenLabs(Yuyjo)。OpenAIはChatGPTやCodex、APIで作った画像にSynthIDの透かしを入れて、さらに誰でも透かしの有無をチェックできる検証ツールも公開予定なんだって。

これ、すごく地味だけど画期的だと思う。だって、こういう「真贋判定」って、各社がバラバラの仕組みを作っちゃうと意味が薄れるから。

想像してみて。A社のAI画像はA社のツールでしか見分けられない、B社のはB社のツールでしか…ってなったら、わたしたちは10個もツールを使い分けなきゃいけなくなる。そんなの無理だよね。

世間では「どうせ各社が主導権争いするだけでしょ」って冷めた見方もあるけど、わたしは今回みたいに競合が同じ規格に乗ることこそ、標準化の第一歩だと思う。

なぜなら、規格が1つにまとまれば、検証ツールも1つで済むし、SNSや検索エンジンが「これAI製です」って表示する仕組みも作りやすくなるから。実際SynthIDは、C2PAっていう別の業界標準と一緒に、Google検索やChrome、Geminiアプリにも組み込まれていくんだって(The National)。

だから、わたしたちが普段使う検索やブラウザの中に、自然と「真贋チェック」が組み込まれていく未来が見えてきた。これは素直に歓迎したい流れなんだよね。

理由3:透かしだけじゃ完璧じゃない、でも『ないよりずっといい』

ただ、ここは正直に言っておきたいんだけど、電子透かしは万能じゃないんだ。

そもそもSynthIDが入るのは、対応してるAIサービスで作られたコンテンツだけ。透かしに対応してないツールで作られたフェイクには、当然目印がつかないよね。

それに、技術的にがんばって透かしを除去しようとする人も出てくるだろうし、いたちごっこになる側面は否定できない。だから「透かしがない=本物」って単純には言えないの、ここは勘違いしちゃダメなところ。

世間では「透かしを入れればフェイク問題は解決」みたいに語られることもあるけど、わたしはそれはちょっと期待しすぎだと思う。透かしはあくまで「手がかりの1つ」であって、魔法の弾丸じゃないんだ。

でもね、なぜそれでも今回のニュースを前向きに見てるかっていうと、「手がかりがゼロ」から「手がかりがある」になるのは、めちゃくちゃ大きな進歩だから。

今までは「これAIっぽいけど確証ない…」ってモヤモヤするしかなかったのが、対応ツールで作られたものなら「あ、これAI製だ」ってはっきり分かるようになる。完璧じゃなくても、判断材料が増えるだけで全然違うんだよね。

だからわたしたちが意識しておくといいのは、「透かしの有無は判断材料の1つにすぎない」ってこと。透かしがあればAI製の確証になるけど、なくても本物とは限らない。最後はやっぱり、出どころを確かめたり、複数の情報源で裏を取ったりっていう、わたしたち自身のリテラシーが大事なんだと思う。


まとめ:フェイク時代の、ささやかだけど大事な防具

今夜の最後をまとめると、「OpenAI・Kakao・ElevenLabsがGoogleのSynthIDを採用して、AI生成物の出所を見分ける真贋判定の標準化が一歩進んだ」ってこと。

人には見えないけど編集に耐える透かしを、ライバル同士が同じ規格で入れ始めた。検索やブラウザにも組み込まれていって、わたしたちの身近なところに「真贋チェック」が広がっていく。

わたしは、これってフェイクだらけになりそうな時代の、ささやかだけど確かな防具だと思う。完璧じゃないし、いたちごっこも続くだろうけど、「手がかりがある世界」に進めること自体に価値があるんだよね。

そのうえで、透かしに頼りきりにならず、自分でも出どころを確かめる習慣は持っておきたい。技術が守ってくれる部分と、自分で守る部分。その両方があって初めて、フェイク時代を上手に渡っていけると思うんだ。

今夜は他にも、AIがもう電力産業になったって話や、AIをサイバー防衛に使う話も別の記事で深掘りしてるから、合わせて読んでみてね。

あわせて読みたい


関連記事: 画像生成AIツール徹底比較

ソース: