AIに「誤読」させるフォント登場 データ収集対策で開発
AI(人工知能)チャットボットにわざと文字を読み間違えさせる、特殊なフォントが登場した。Mixfontが開発した「Decoy Font」で、英国のデザイン専門メディアDezeenが週刊ニュースレター「Dezeen Agenda」で取り上げた。自分のデータをAIに無断で収集されたくない人向けに作られたという。
何が起きたのか
Decoy Fontは、2層の画像で1つの文字を表現する仕組みを持つとされる。このうち1層は、細いながらも人の目にはっきり見える輪郭線で描かれているという。もう1層がどのように働き、AIの誤読を引き起こすのかという具体的な仕組みは、今回の報道からは分からない。Dezeenはこれを「AIチャットボットにメッセージを誤読させるための目の錯覚(optical illusion)フォント」として、週刊ニュースレターの1本として紹介した。開発したMixfontは、データがAIに無断で収集される「スクレイピング(scraping、ウェブ上の情報を自動的に抜き取る行為)」を避けたい人たちに向けてこのフォントを作ったとされる。
背景
近年、画像や文章を生成するAIの多くは、インターネット上に公開された膨大なテキストや画像を学習データとして取り込んでいる。この収集作業の多くは、サイトの運営者や著作権者の明確な同意を得ずに行われているとの批判が、世界的なデザイン業界やクリエイター業界から根強く上がっている。作品や文章を勝手にAIの学習素材にされることへの懸念は、イラストレーターや作家、写真家など幅広い職種で共有されてきた問題であり、Decoy Fontはこうした流れの中で生まれた対抗策の一つとみられる。
人間の目とAIの画像認識・文字認識の仕組みの違いを突く発想自体は目新しいものではなく、画像に人の目には気づきにくいノイズを加えて顔認識AIやOCR(光学文字認識)を欺く研究や製品は、これまでにも存在してきた。Decoy Fontは、こうした「AIをだます」技術をフォントという日常的なデザインツールの形に落とし込んだ点が特徴といえる。ただし、Dezeenの紹介には具体的にどのAIモデルに対して、どの程度の精度で誤読を引き起こせるかという検証結果は示されておらず、実際の効果の範囲は今回の報道だけでは分からない。
日本にとっての意味
日本でも、生成AIの学習データとして文章やイラスト、写真が無断で使われることへの懸念は、クリエイターやウェブサイト運営者の間で年々高まっている。特にイラストレーターや漫画家など、絵柄そのものが評価につながる職業では、AIによる無断学習への警戒感が強い。日本国内でも、AIによる読み取りを妨げる「ノイズ加工」を画像に施すツールなどはすでに一部で使われ始めているとされるが、Decoy Fontのように文字そのものを対象にした事例はまだ珍しく、テキストデータの保護という切り口は今後の技術動向として注目に値する。
また、こうした「AIをだます」技術は、防御目的である一方、悪用されればAIを使った自動処理システムを誤作動させる手段にもなりかねない。ウェブサイトの自動監視やチャットボット対応など、AIを業務に組み込む日本企業が増える中、Decoy Fontのような仕組みの存在を知っておくことは、AIとの付き合い方を考えるうえで一つの材料になるだろう。