Google提供给大众的生成式人工智能工具正在用于制造虚假新闻网站，从而干扰其广告业务，同时污染网络环境。一项由NewsGuard进行的研究发现，Google等数字广告公司未能保护其广告客户免受虚假新闻网站的侵害。这意味着他们在充斥着生成式人工智能合成内容的网站上投放付费广告。该研究发现，至少有141个全球品牌在由生成式人工智能创建的虚假网站上投放广告，其中90%的广告由Google的广告服务Google Ads发布。

像一条吞噬自己尾巴的蛇一样，Google急于为大众使用部署的生成式人工智能工具正在被用来干扰其广告业务，并在此过程中也污染了网络。一家名为NewsGuard的营利组织，对新闻网站的可信度进行评级，其研究发现，像Google这样的数字广告公司仍然跟不上，未能保护他们的广告商免受虚假新闻网站的侵害。这意味着他们将付费广告投放在充斥着生成人工智能合成内容的网站上，这些内容的唯一目的是为其创建者获取用户流量和数字广告份额。该研究发现，至少有141个全球品牌在由生成式人工智能创建的虚假网站上投放广告，其中90%的广告由世界上最大的数字广告平台Google Ads发布。去年，Google的广告收入达到2250亿美元。根据Google的广告政策，网站可能不得在包括自动生成垃圾内容的页面上展示由Google显示的广告，其中包括未产生任何原创内容或增加足够价值的内容。

此类虚假新闻网站每天产生大量内容，其内容平淡无奇，包括一些重复的短语，这已成为生成式人工智能生成文本的标志。有些网站虽有虚假内容，但并不具有误导性，一些则是对可信网站原始故事的改编。通过所谓的“程序化广告”在虚假新闻网站上投放广告，这是一种流行的定向广告类型，广告商不需要主动选择在哪里发布广告，而是由自动化系统按照预定参数在网站上投放广告。这种策略导致广告商通常不知道他们的广告放在哪里。这项服务的费用从一美元到五美元不等，每千次出现一次广告（CPM）。由于从2022年底开始免费使用的生成式人工智能工具的推出，包括OpenAI的ChatGPT和Google的Bard，内容农场得以改善，现在能够以更低的成本更快速地在多个网站上生成更多内容。据估计，广告商每年在这些网站上花费约130亿美元。

根据研究，在短时间内，共发现13种语言的217个此类网站。虚假网站呈现多种形式。有些网站伪装成新闻网站，有些则重写文章，还有些提供医学建议。例如，在MedicalOutline.com上，有一些标题如“柠檬能治疗皮肤过敏吗？”、“有哪五种自然疗法可治疗注意力缺陷多动障碍？”和“如何自然预防癌症？”的“文章”，根据研究发现，有针对“两家美国流媒体视频服务、一家办公用品公司、一家日本汽车制造商、一家总部位于纽约的全球银行、一家宠物供应商、一家维生素商店、一家饮食公司和一家吸尘器制造商”的广告。目前尚不清楚这些新网站能够吸引多少资金，但已经清楚的是，使用生成式人工智能大量创造内容显著降低了虚假网站的创建者的成本，并鼓励他们继续沿着这条道路前进。更大的问题是，这些虚假内容与可信平台竞争用户的注意力。

Google以色列表示：“我们关注内容的质量，而不是创建方式，并且如果我们检测到违规行为，我们将阻止或删除广告。”