ナイトシェード：アーティストがAIモデルに「毒を盛る」ために使える無料ツール

ナイトシェードの導入：アーティストがAIモデルから作品を守るためのツール

ナイトシェードは、アーティストのために設計された無料のソフトウェアツールとして、ダウンロード可能になりました。この革新的なアプリケーションを使用すると、アーティストは自身の作品を無断使用しようとするAIモデルに「毒を盛る」ことができます。

シカゴ大学のグレイズプロジェクトに所属するベン・ジャオ教授の指導の下、コンピュータサイエンティストによって開発されたナイトシェードは、オープンソースの機械学習フレームワークPyTorchを利用しています。このツールは、画像の内容を特定し、ピクセルレベルで微妙に変更を加えることにより、人間の目には変わって見えないが、AIプログラムには異なるように見えるバージョンを作成します。

過去の革新を踏まえて

ナイトシェードは、約1年前に登場したグレイズの後継ツールとして位置付けられます。グレイズは、デジタルアート作品のスタイルをAIトレーニングアルゴリズムに誤認させるために設計された防御的なツールです。一方、ナイトシェードは攻撃的なアプローチを取ります。

ナイトシェードを使用して修正された画像でAIモデルがトレーニングされると、将来の画像を誤って分類することがあり、奇妙な結果を引き起こす可能性があります。例えば、AIは牛の画像をハンドバッグとして解釈するかもしれません。

要件と機能

ナイトシェードを使用するには、AppleSiriコン（M1、M2、またはM3）を搭載したMacまたはWindows 10または11を実行しているPCが必要です。両方のオペレーティングシステム向けにダウンロードが可能ですが、需要が高いため、ダウンロードに時間がかかることがあります。Mac用のファイルは255MB、PC用は2.6GBです。

ダウンロード前に、ユーザーはソフトウェアの改変や商業利用を制限するエンドユーザーライセンス契約（EULA）に同意する必要があります。ナイトシェードは、画像を「毒」サンプルに変換し、それに基づいてトレーニングされたAIモデルが予測不可能な結果を生成することを目的としています。例えば、ナイトシェードで加工された画像をAIモデルに用いると、牛の画像を宇宙背景のハンドバッグとして生成するかもしれません。

このツールは、一般的な画像変換（クロッピング、リサンプリング、圧縮）にも耐性があり、その効果は損なわれません。アルゴリズムの変更は単なる透かしではなく、様々な変化を経ても持続する微妙に統合された変化です。

賛否が分かれる反応

多くのアーティスト、特にAIアート企業に対する集団訴訟の原告であるケリー・マッカーナン氏などはナイトシェードを支持していますが、一部の批評家はこれがAIモデルへのサイバー攻撃のように見えると指摘しています。ナイトシェードチームは、その意図を明確にしており、無許可のデータでのトレーニングコストを上げ、AI開発者にアーティストからライセンスを取得させることを目指しています。

データスクレイピングの背景

ナイトシェードの登場は、アーティストの同意なしにインターネットからデータを抽出するデータスクレイピングに対する懸念の高まりと関連しています。この行為はアーティストの生計を脅かし、無断使用から自身の作品を保護する手段を模索させています。

データスクレイピングを巡る争いは新しいものではなく、その著作権やフェアユースへの影響について以前から注目を浴びてきました。AI企業が「オプトアウト」オプションを提供しているものの、グレイズ/ナイトシェードチームはそれが無視されることが容易であり、実効性がほぼないと主張しています。

ナイトシェードは、無断スクレイピングに対するコストを課すことで、AI開発者のビジネス慣行を見直させることを目的としています。ただし、ナイトシェードは過去の侵害を消し去ることはできず、将来の侵害を軽減することを目指しています。

結論として、ナイトシェードはAIの時代におけるアーティストの権利を守るための重要な一歩となっています。