新的數據中毒工具將懲罰未經許可擅自抓取藝術品的人工智慧

• 資訊


芝加哥大學的研究人員開發了一種工具，使藝術家能够“毒害”他們的數字藝術，以封锁開發人員在他們的作品中訓練人工智慧系統。

該工具被稱為“Nightshade”，以植物家族的名字命名，其中一些植物以其有毒的漿果而聞名。該工具修改影像的管道是，它們的加入會用錯誤的資訊污染用於訓練人工智慧的數据集。

根據麻省理工學院《技術評論》的一份報告，Nightshade改變了數位圖像的點數，以欺騙人工智慧系統對其進行誤解。例如，《科技評論》提到讓人工智慧相信猫的影像是狗，反之亦然。

在這樣做的過程中，人工智慧產生準確和有意義的輸出的能力理論上會受到損害。 使用上面的例子，如果用戶要求受污染的人工智慧提供一張“猫”的影像，他們可能會得到一隻被標記為猫的狗，或者人工智慧訓練集中所有“猫”（包括那些實際上是被Nightshade工具修改過的狗的影像）的合併。

康奈爾大學教授Vitaly Shmatikov是一比特研究這項工作的專家，他認為研究人員“還不知道對這些攻擊的强大防禦”。這意味著，即使是像OpenAI的ChatGPT這樣的强大模型也可能面臨風險。

Nightshade背後的研究團隊由芝加哥大學的Ben趙教授領導。 這個新工具實際上是他們現有的名為Glaze的藝術家保護軟件的擴展。 在他們之前的作品中，他們設計了一種方法，藝術家可以通過這種方法混淆或“上釉”他們作品的風格。

例如，一比特創作木炭肖像的藝術家可以被上釉，在人工智慧系統中表現為現代藝術。

新的數據中毒工具將懲罰未經許可擅自抓取藝術品的人工智慧插图1非上釉和上釉人工智慧藝術仿製品的例子。 圖片來源：Shan et al.，2023。

根據《技術評論》，Nightshade最終將在Glaze中實現，Glaze現時可在芝加哥大學網站上免費上網或下載。

聯系郵箱：0xniumao@gmail.com






赞 (0)
上一篇 2023年10月24日 pm12:04
下一篇 2023年10月25日 am8:13

相关推荐