谷歌近日宣布，他们将要求 Android 应用更好地审查和管理使用人工智能（AI）生成的内容。这一举措旨在解决在AI技术快速发展的情况下，一些应用中可能出现的不良内容和滥用问题。
根据新政策，使用AI生成内容的应用将需要在明年初之前添加一个按钮，以便用户能够轻松地报告不良内容，避免被Google Play商店下架。此举将使用户能够在不离开应用的情况下报告问题，与现有的应用内报告系统类似。
Google强调了他们希望举报过程尽可能简便。该公司表示，他们的AI生成内容政策适用于AI聊天机器人、生成图像应用和使用AI生成真实人的声音或视频内容的应用。然而，只使用AI来总结书籍等材料的应用，以及将AI作为功能的生产力应用不会受到新政策的约束。
对于Google而言，不良AI内容的示例包括未经同意的深度伪造色情材料、用于欺诈目的的真实人录音、虚假或误导性的选举内容、以及主要用于性满足目的的生成AI应用和恶意代码的创建。
Google还承认，生成式AI是一个快速发展的应用类别，因此他们可能会随着技术的发展而重新审视其AI政策。
此外，除了新的AI生成内容规则，Google还加强了Play商店的照片和视频权限政策，限制应用程序可以访问数据的范围。该公司表示，用户设备上的照片和视频被视为个人和敏感的用户数据，应当按照最高隐私最佳实践进行处理。这种敏感信息使用户容易受到泄露或滥用的风险，因此减少这种访问有助于避免开发人员处理此类敏感数据的负担。
只有那些需要广泛访问照片和视频的应用程序才能继续获得一般权限，而对媒体文件使用有限的应用程序将被要求使用照片选择器。这一政策旨在提高用户对他们个人数据的控制和保护。