在亞馬遜網站銷售的一本關於曼尼托巴省蘑菇的書,引起真菌愛好者的擔憂。這本懷疑由人工智能(AI)編寫的書內容不連貫,可能會對以其作為采菇指南的讀者構成危險。
聖博尼法斯大學(Université de Saint-Boniface)文及理學院院長布拉薩德(Alexandre Brassard)愛好蘑菇。多年來他一直希望能為曼省的采菇者出版一本實用指南。
布拉薩德在Facebook建立了一個逾萬人的曼省蘑菇愛好者群組,又開設真菌學入門課程,當一位學生向他推薦這本由一位名為O-馬克(Jay O. Mark)撰寫、題為《曼尼托巴省的蘑菇》(Mushrooms of Manitoba)的書時,只感到非常好奇。
有些蘑菇根本不在曼省生長
但布拉薩德看過這本售價20元的書後說:這樣的入門書,通常會介紹常見、知名和受歡迎物種。這本書介紹的15種選擇卻並非這樣,它們不一定常見,甚至有幾種根本就不在曼省生長。
另外書中又用了很大篇幅介紹某些物種的藥用價值,用上很多科學術語,但沒有出處、沒有引文、也沒有參考書目。
最重要的是,這本書遺漏了曼省最危險的物種,如致命的鵝膏菌(Amanita)和環柄菇(lepiota)。布拉薩德說:曼省約有十幾種致命物種,在一本入門級別的書中,應該要提及所有這些物種。
再加上書中時有奇怪用字,而作者身分無法查明,書亦只是由他本人出版,不隸屬任何出版社,布拉薩德因此懷疑書是由人工智能軟件編寫。
這種現象令世界各地的嗜菌團體感到擔憂。紐約蘑菇學會最近就發布警告,呼籲大眾只購買知名作者或採集者的書籍,因為這關乎人命。
多倫多蘑菇學會甚至發表文章,解釋如何在人工智能時代選擇一本實用的蘑菇指南。
曼尼托巴大學計算機科學系主任格哈德(David Gerhard)說:當出現任何新工具,人們就想辦法賺快錢。有很多網站都包含人工智能內容、食譜、旅遊指南、吉他和弦……,這都使人感到沮喪。
AI文本總是說很多卻其實甚麼也沒說
格哈德也是一位業餘蘑菇愛好者。他認為《曼尼托巴省的蘑菇》是人工智能產物。教授指出:人工智能軟件生成的文本,通常會有一種試圖說很多卻其實什麼也沒說的感覺。
不過格哈德也表示,無法完全確定文本是由人工智能生成。
以AI對抗AI
加拿大公司Originality.ai通過分析文本,來確定內容是否由人工智能撰寫。創始人吉勒姆(Jonathan Gillham)將他們的分析比作天氣預報。
Originality.ai分析了《曼尼托巴省的蘑菇》一書的五個段落。最後得出結論,所有段落很可能是人工智能寫的,可信度達到100%。
亞馬遜公司發言人說,亞馬遜有內容準則來規範哪些書籍可以出售,有主動和被動的方法來評估商店中的內容。
而在加拿大廣播公司採訪後,《曼尼托巴省的蘑菇》一書已從亞馬遜網站上刪除。
雖然在停售前,它在亞馬遜網站加拿大實用指南類暢銷書排行榜上排名第二。