-
AIGC的社会责任：AIGC的社会责任
AIGC的社会责任：AIGC的社会责任 作者：禅与计算机程序设计艺术 1. 背景介绍 1.1 AIGC的兴起与社会影响 近年来，人工智能生成内容（AIGC）技术发展迅速，其应用范围不断扩大，对社会产生了深远的影响。从文本创作、图像生成到音频合成，A...
-
AI诈骗：如何在享受AIGC带来的便利同时确保安全？
随着人工智能技术的迅猛发展，尤其是在生成式内容（AIGC）方面的突破，我们已经见证了这项技术在多个领域中的广泛应用，包括但不限于聊天机器人、自动化写作、艺术创作以及软件开发辅助等。然而，正如任何双刃剑一样，在带来便捷与效率提升的同时，AI也引发了新的安全隐...
-
AI换脸制作合成图片：韩国女性受不了了 跑到中国求救
8 月 24 日当晚，在巴黎郊外的布尔歇机场，刚下私人飞机的帕维尔杜罗夫被法国警方逮捕。 法国官方公布的消息称，杜罗夫创建的平台缺乏监管，导致了大量包括传播虚假信息、仇恨言论等在内的犯罪活动。 这个平台有一个在全球网络上响当当的名字， Telegram ，...
-
用AI打假AI，这些倒反天罡的AI应用正在悄悄走红
“不要相信你现在看到的任何东西。”这是X上的一位AI圈博主在看完最近爆火的AI伪造版TED演讲发出的感慨。 谁还记得，一年前AI生成的视频是这样的: 生成式AI将互联网带入到了一个真假难辨的深伪时代。 “有图有真相”在过去是网友求证文字信息真实性时常引用...
-
AI换脸，该抵制吗？
眼见≠为实，AI换脸欺骗了不少人。 前两天，湖北公安破获了一起用AI换脸技术解锁社交账号并倒卖获利的案件。不法分子通过AI换脸专门帮人解锁被平台冻结的交友账号，每解锁一个，收费15元-30元不等。该团伙共解冻了2107个账号，从中获利40万元。 有数据显示...
-
马斯克的 Grok AI 聊天机器人因惊人的深度伪造特朗普和泰勒·斯威夫特而迅速走红
埃隆·马斯克的 Grok AI 聊天机器人正在互联网上泛滥，生成了从唐纳德·特朗普到马斯克本人的「深度伪造」图像——生成的图片有的完全荒诞到极其令人不安等。 自上周发布以来，Grok 的用户不断生成假冒的特朗普图像，如抢劫便利店或驾驶飞机飞向双子塔的画面...
-
“AI马斯克”等深度伪造视频泛滥 每年造成数十亿美元损失
8月18日消息，据外媒报道，AI生成的埃隆·马斯克的形象，已经出现在数千条虚假广告中，导致许多人被骗。AI驱动的“深度伪造”（deepfake）视频预计每年将造成数十亿美元的欺诈损失。 外媒举了一个具体的例子，去年年底，82岁的退休人员博尚普（Steve...
-
AI马斯克泛滥：1分钟骗走退休老人几十万
快科技8月17日消息，随着AI人工智能的快速发展，网络上出现了各种各样逼真的篡改视频，而这也被不法分子利用，开始进行网络诈骗。 据纽约时报近日报道，AI生成的埃隆马斯克形象已经出现在数千条虚假广告中并导致数十亿美元的诈骗，并且已有人因此上当受骗。 报道指出...
-
AI日报：谷歌发布全新Gemma 2 2B模型；字节推AI音乐产品海绵音乐；Runway推Gen-3 Alpha Turbo 版本；华为Pura 70系列上线AI扩图
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。 新鲜AI产品点击了解：https://top.aibase.com/ 1、谷歌发布全新Gemma2 2B...
-
OpenAI CTO 剧透AGI关键词：十年内出现、极其先进、智能系统
7月初，在约翰霍普金斯大学，资深科技记者、播客Pivot的联合主持人Kara Swisher与OpenAI CTOMira Murati展开了一场火药味十足的对话，计算机科学家、斯坦福大学教授李飞飞也加入了提问阵营，他的另一个身份是Google云人工智能和...
-
This Person Does Not Exist：AI绘画工具创造的虚构人物
引言 随着人工智能技术的飞速发展，AI绘画工具已经能够生成逼真的虚构人物图像。这些工具利用生成对抗网络（GAN）等深度学习技术，能够生成从未存在过的高质量人脸图像。“This Person Does Not Exist” 是其中最著名的一个网站，展示了...
-
【视觉AIGC识别】误差特征、人脸伪造检测、其他类型假图检测_dire for diffusion-generated image detection
视觉AIGC识别——人脸伪造检测、误差特征 + 不可见水印 前言 视觉AIGC识别 【误差特征】DIRE for Diffusion-Generated Image Detection 方法 扩散模型的角色...
-
AI日报：Runway的Gen-3 Alpha正式开放使用；百度文心大模型4.0 Turbo限时免费；英伟达发布直播神器；爆火Character AI惨遭阉割
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。 新鲜AI产品点击了解：https://top.aibase.com/ 1、Runway的Gen-3 Al...
-
外滩大会举办全球deepfake攻防挑战赛，百万奖金悬赏“AI打假”专家
近日，外滩大会·全球Deepfake攻防挑战赛正式启动报名。该赛事提供百万级的数据集，针对“AI换脸”的欺诈风险进行攻防实战演练，并设立100万元人民币的奖金池，鼓励推动AI向善的技术人才。 大赛由蚂蚁集团主办、蚂蚁数科承办，ATEC前沿科技探索社区、蚂...
-
Google Play Store整顿生成式AI应用 严控不当内容传播
Google近日发布了针对AI应用程序的新指导方针，旨在减少“不适当”和“被禁止”的内容传播。根据报道，Google Play Store宣布了对生成式AI类应用的整顿，要求这类应用限制不当内容的传播。 根据最新政策，所有提供生成式 AI 功能的应用必须采...
-
FBI指控一美国男子使用AI工具生成了13000张儿童性虐待图片
美国联邦调查局（FBI）指控一名美国男子制作了10，000多张儿童色情和虐待图像，据称他使用流行的人工智能工具生成了这些图像。当局还指控这名42岁的男子史蒂文·安德雷格(Steven Anderegg 在Instagram上向一名15岁的男孩发送色情的人工...
-
好莱坞巨星指控OpenAI非法使用她的声音
好莱坞著名影星斯嘉丽·约翰逊最近指控OpenAI非法使用了她的声音，并要求下架ChatGPT中的相关语音模式。斯嘉丽指责ChatGPT中的"Sky"模式与她本人的声音相似度极高，超过90%，并认为该模式可能是模仿了她的声音。 斯嘉丽曾为2013年的科幻AI...
-
好莱坞经纪公司CAA为明星提供管理AI形象方案避免遭滥用
好莱坞顶级娱乐和体育经纪公司 Creative Artists Agency （CAA） 希望成为明星 AI 保护服务的领军者。 随着许多明星的数字形象在未经许可的情况下被使用，CAA 建立了一个虚拟媒体存储系统，名为 “theCAAvault”，供 A...
-
Anthropic任命Instagram联合创始人为首席产品官，拓展企业生成式AI服务
生成式 AI 创业公司 Anthropic 最近聘请了 Instagram 联合创始人兼前首席技术官 Mike Krieger 担任首席产品官。对于 Anthropic 来说，聘请 Krieger 是一个重要的举措，因该公司最近推出了 Claude 团队订...
-
不怕被骗了！TikTok成为全球首个自动标记AI生成内容的社交媒体平台
快科技5月12日消息，TikTok本周宣布，将对所有AI生成内容、视频、图片进行自动标记，以防止混淆和误导观众。 一年多以来，使用TikTok的AI创作工具制作的内容已经包含了AI标签，未来TikTok 还将标记通过其他平台制作的AI内容。 TikTok在...
-
OpenAI探索允许用户 “负责任” 地制作AI生成的色情内容
美国人工智能巨头 OpenAI 周三在一份旨在征求其产品规则反馈意见的文件中透露，他们正在探索 “负责任” 地允许用户制作 AI 生成的色情内容。 根据 OpenAI 目前的规则，性暗示内容甚至色情内容大多被禁止。但现在，OpenAI 正在重新审视这一严格...
-
巴菲特警告:AI 就像核武器一样危险
在最近的股东大会上，93岁的伯克希尔 - 哈撒韦公司联合创始人、董事长兼首席执行官沃伦・巴菲特发出了对人工智能潜在危险的警告。他将人工智能比作释放的 “神灯”，就像核武器一样危险。 巴菲特承认自己对人工智能技术了解有限，但他担心其潜在后果。他还提到，最近有...
-
关于人工智能，专家不愿透露的秘密!
如今，人工智能(AI 已经成为我们生活中不可分割的一部分。专家们通常会指出人工智能的优势，但可能不会很快提到这项技术的问题。本文将深入挖掘人工智能专家不愿意透露的隐藏秘密。 1.人工智能并非万无一失 虽然人工智能系统可以使数字更精确的许多倍,但并非完美...
-
ElevenLabs AI创始人提出应对音频Deepfakes想法：加水印
AI 语音技术领域的公司正努力寻求何规范 Deepfakes，同时又不抑制创新。ElevenLabs 的联合创始人兼 CEO Mati Staniszewski 告诉《大西洋月刊》说:“这将是一场猫鼠游戏”。去年在测试版推出后，ElevenLabs 一跃成...
-
英国议员建议新法禁止 AI 对音乐明星进行深度伪造
英国一组议员建议通过法律禁止人工智能对音乐明星进行深度伪造，以保护他们的声和形象不受侵害。近日，200多名音乐人签署了一封公开信，呼吁加强 AI 滥用的保护，认为 AI 对艺术家的声音和形象构成潜在威胁。其中包括杰斯・格林、孟福特兄弟乐队、萨姆・史密斯和赞...
-
GPT 5发布前夜：美国大选成最大变数！
编译丨诺亚 出品 | 51CTO技术栈（微信号：blog51cto） 今年是美国大选年，两党的对决仿佛“昨日再现”，特朗普和拜登再次站在了擂台之上。选举效应从来牵连甚广，而蝴蝶的翅膀已然影响到科技圈。 随着总选举的临近，众多科技企业在推出AI系统和大模型...
-
微软推出新型AI工具VASA-1：可将照片转化为视频
快科技4月21日消息，据媒体报道，微软亚洲研究院近期推出了一款革命性的人工智能工具VASA-1，这一工具的推出引起了业界和公众的广泛关注。 VASA-1的独特之处在于，它能够将静态图像或绘画与音频文件结合，生成具有动态面部表情和头部动作的面孔。这意味着，仅...
-
泰勒·斯威夫特新专辑显现关于 AI 生成音乐的大问题
周四，泰勒·斯威夫特以其标志性的方式在 Instagram Story 中发布了链接购买她新专辑《The Tortured Poets Department》中的首支单曲《Fortnight》。这对于斯威夫特来说可能算不了什么，她是世界上最大的录音艺术家之...
-
量子人工智能：创新与协作的交响曲
在不断发展的人工智能领域，量子人工智能的到来是一个关键时刻，它提供了创新与协作的和谐融合。随着高质量的深度伪造挑战数字内容的真实性，量子人工智能成为一股变革力量，为各个领域带来无与伦比的机遇和挑战。 提升深度伪造检测能力：量子人工智能的卓越处理能力，有...
-
探讨2030年人工智能的发展趋势
1、人类级别的人工智能能力 到2030年，人工智能有望达到人类的智力水平，这是该领域的一个巨大飞跃。这一里程碑将为人工智能系统带来前所未有的机会，使其能够以与人类相当的认知水平执行任务。各行业将见证人工智能驱动的决策、问题解决和创造力创新，从而...
-
守护生成式人工智能之门，规避人工智能进化中的安全挑战
想了解更多AIGC的内容，请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ 生成式人工智能(GenAI 代表了人工智能的一个重大飞跃，能够创建文本、音频、图像、代码等新颖而逼真的数据。虽然这项创新具有巨大的...
-
探索人工智能对民主的潜在影响
近年来，人们越来越担心人工智能（AI）对选举和民主进程的破坏性影响。尤其是随着人工智能生成的深度伪造（逼真的音频和视频处理）的激增，选民对错误信息和不信任的担忧与日俱增。 人工智能对民主的潜在影响是一个复杂而且多维度的话题，涉及到政治、社会、经...
-
AI武器化成为地下论坛的热门话题
传统上，驱动式攻击被定义为从受损网站自动下载恶意文件而无需用户交互。然而，在报告期间审查的大多数情况中，都涉及用户操作——在近30%的事件中促进了初始访问。 威胁行为者用AI自动化攻击 在主要的网络犯罪论坛中，使用AI加速这些攻击正受到越来越多...
-
46秒AI生成真人视频爆火，遭在线打假「换口型、声音」
AI 生成视频已经发展到这个程度了吗？ 前段时间，英国王室凯特王妃的 P 图事件，再次将人们的注意力吸引到了图像或视频造假上来。随着 AI 伪造工具的「进化」，以假乱真、无中生有的内容也随之不断出现。 今天，一段宣称完全由 AI 生成的不到 50 秒的视...
-
CIO如何应对感知到的AI带来的风险
问一般人AI最大的风险是什么，他们的答案可能包括：AI将让我们人类过时，Skynet将成为现实，让我们人类灭绝，深度伪造创作工具将被坏人用来做坏事。问一般的CEO AI最大的风险是什么，他们更有可能谈论错失的机会——竞争对手能够比他们更早部署基于AI的...
-
ChatGPT之父Altman两小时对谈，首聊GPT-5何时发布、llya去哪里了、Q*究竟是什么……
Altman做客油管博主Lex Fridman科技博客 ，被追问了一个又一个辛辣的问题。 长达两个小时的对谈，奥特曼从OpenAI宫斗、马斯克诉讼、Sora，一直聊到AGI与外星文明！ 本文重点梳理了长对谈中的精彩部分，对于科技圈的焦点议题，奥特曼是...
-
AI换脸app有哪些？免费换脸软件网页版在线使用地址入口
在数字娱乐的世界里，AI换脸技术让我们的想象成为可能。无论是与喜爱的名人交换脸部，还是制作搞笑的视频和图片，这些神奇的工具都能轻松实现。本文将介绍几款热门的免费AI换脸软件，以及它们的在线使用地址入口。 FamousFace是一个通过人工智能技术，让用户...
-
谷歌限制AI聊天机器人Gemini回答与选举相关的查询
Google 限制了 AI 聊天机器人 Gemini 回答今年将在多个国家举行的选举有关的查询，其中包括美国总统选举。 这一决定是为了减少技术部署中潜在的错误。谷歌在周二的一篇博文中表示，"出于对如此重要话题的谨慎，我们已开始限制 Gemini 将返回哪些...
-
疑似AI合成！凯特王妃行踪成谜，英王室秘辛再起疑云
整理丨诺亚 出品 | 51CTO技术栈（微信号：blog51cto） 最近几个月，因为凯特王妃的行踪成谜，英国王室频陷争议。关于王妃去哪儿了的八卦、阴谋论层出不穷。 就在当地时间3月10日，肯辛顿宫发布了一张据称是王储威廉拍摄的——凯特和三个孩子的合...
-
【视觉AIGC识别】误差特征、人脸伪造检测、其他类型假图检测
视觉AIGC识别——人脸伪造检测、误差特征 + 不可见水印 前言 视觉AIGC识别 【误差特征】DIRE for Diffusion-Generated Image Detection 方法 扩散模型的角色 DIRE作为检测指标 实验结果...
-
参议员表示 AI 监管必要以解决潜在风险
美国参议员 Mark Warner（来自弗吉尼亚州）和 Todd Young(来自印第安纳州 在华盛顿特区约翰斯・霍普金斯大学布隆伯格中心举行的讨论会上，就人工智能政策展开了一场广泛的对话。他们在这场由 Punchbowl News 创始人兼首席执行官 A...
-
科技公司担忧，澳大利亚新标准或削弱AI保护在线安全能力
澳大利亚近期发布的新在线安全标准引起了科技公司的担忧，特别是微软、Meta和Stability AI等。这些标准旨在规范生成式人工智能（generative AI）等技术，以防止其被滥用，但科技公司担心这可能对其AI系统的保护在线安全的能力产生负面影响。...
-
人工智能引发新的网络威胁，你准备好了吗？
我们可以利用人工智能的优势，同时防范其潜在的陷阱，从人工智能驱动的网络钓鱼计划，到超逼真的深度伪造。因此，保护企业的关键是了解这些新威胁。 人工智能的网络威胁和挑战 虽然人工智能的好处可以为企业提供帮助，但也为组织必须承认的额外网络挑战和风险打开了大门...
-
AI攻防：如何使用人工智能提升网络安全性
引言 在近几十年中，人工智能 (AI 已经从科幻概念逐步转变为实际应用，渗透到社会的每个角落。从为电商网站推荐个性化商品，到自动制导车辆，再到帮助医生诊断疾病，AI的应用看似无所不在。然而，随着AI在各行各业的广泛应用，其在网络安全领域的作用也日益凸显...
-
Gartner：预计到2026年，30%的企业将因为AI生成的深度伪造而失去信心
根据Gartner公司的预测，到2026 年，30%的企业将因为人工智能（AI）生成的人脸生物识别深度伪造攻击而认为此类身份认证和验证解决方案不再能够起到可靠的作用。 Gartner研究副总裁Akif Khan表示：“过去十年在AI领域出现的几个拐点使...
-
人脸识别要完？首个“人脸劫持“银行木马诞生
多年来，生物识别技术被宣传为终极身份验证手段，因为每个人的面部、指纹和虹膜信息都独一无二且难以被伪造。然而，随着人工智能技术的井喷式发展，生物识别技术，尤其是人脸识别技术正面临巨大威胁。 近日，网络安全公司Group-IB发现了首个能够窃取人脸（识别数...
-
谷歌、微软、OpenAI联手打击“国家黑客”
在刚刚结束的慕尼黑安全大会期间，对技术（尤其是人工智能技术）的监管、治理和使用是热点话题之一。为了向来自世界各地的政府领导人展示捍卫人工智能安全的决心和信心，谷歌、微软和OpenAI三大人工智能巨头推出了一系列的重大举措和计划。 在大会召开一天前，微软...
-
专家称：OpenAI 视频生成器Sora可能会助长虚假宣传和偏见
OpenAI 最新推出的视频生成工具 Sora 展示了一个阳光普照的达尔马提亚狗蹑手蹑脚地走过窗台、一场中国新年游行席卷城市街道、一名考古学家在沙漠沙地上挖掘出一把椅子。这些视频是在线发布的，但实际上并没有发生。它们构成了 OpenAI 最新推出的视频生成...
-
AI换脸app有哪些 免费人工智能换脸软件工具在线使用地址入口
什么是AI换脸? AI换脸是一种通过人工智能算法，将一张脸交换到另一张脸上的技术。它可以将用户的自拍照片与名人、动漫角色等进行脸部替换，生成极为逼真的照片效果。 AI换脸的原理 AI换脸基于生成对抗网络(GAN 等深度学习技术。它可以分析两张人脸图片的特...
-
香港最大AI诈骗案：Deepfake换脸「英国CFO」，直接骗走公司2亿港币
【新智元导读】香港一家跨国公司员工，被骗子邀请进了用Deepfake做的「高管视频会议」中，下令让他转了2亿港币到不知名中账户，5天之后才发现被骗了。 这几天，古老的AI应用——「AI换脸」多次破圈，屡屡登上热搜。 先是网上充斥的大量泰勒斯威夫特的「AI艳...