-
在医疗保健中平衡AI的好处与安全和隐私风险
基于风险的方法优先考虑风险最高的领域，并建议提供商在低风险领域投入较少的精力。内部审计和合规计划与企业面临的最关键风险之间的一致性越好，企业的内部审计和合规投资产生的风险回报就越大。 五大风险领域 医疗保健组织面临着五个最高的风险领域，内部审计和合规领...
-
ChatGPT被曝泄露私密对话 遭OpenAI否认
1月31日消息，据外媒报道，OpenAI旗下的人工智能聊天机器人ChatGPT再次被曝安全漏洞。 据悉，ChatGPT是OpenAI于2022年11月30日推出的一种新型AI聊天机器人工具，可根据用户的要求快速生成文章、故事、歌词、散文、笑话，甚至代码，并...
-
论文润色会泄露吗 智能写作
大家好，今天来聊聊论文润色会泄露吗 智能写作，希望能给大家提供一点参考。 以下是针对论文重复率高的情况，提供一些修改建议和技巧，可以借助此类工具： 标题：论文润色会泄露吗――保护学术隐私与安全的探讨 一、引言 在学术研究中，...
-
OT系统如何应对生成式AI带来的安全挑战？
如今，大多数网络攻击主要使用两种方法：数据泄露和数据加密。这些策略被证明是有效的，因为攻击者可以通过威胁发布泄露的数据或要求支付解密费用来勒索钱财。这些攻击虽有恶意，但程度有限。他们的目标通常不是给人们造成重大伤害，但也有攻击者走得更远的情况。 在现代...
-
GenAI成功道路上的十个“坑”
想要实现生成式人工智能（GenAI）?是个好消息!大多数IT决策者都看到了这种变革性技术的潜力，您可以将自己视为其中之一。虽然GenAI有可能为业务增加显著的效率，但它也带来了一系列必须克服的挑战。 以下是实施GenAI的十大挑战，按重要性降序排列。...
-
类似ai小微智能论文的AI写作平台还有哪些？
人工智能（AI）和机器学习（ML）技术的进步获得了广泛关注，据尼尔森诺曼集团（Nielsen Norman Group）估计，人工智能工具可能会将员工的生产力提高66%，这使得各地公司都想利用这些工具来提高工作效率。但相关专家警告称，人工智能的使用可能会产...
-
思科调查：超25%公司在内部实施了生成式AI禁令
根据思科(Cisco 日前进行的一项调查，尽管很多员工了解生成式AI在数据隐私方面的缺陷，但许多人仍在向ChatGPT等类似的AI应用程序输入敏感的公司数据。 思科针对全球12个国家的2600名隐私和安全专业人士进行的年度数据隐私基准调查表明，超过四分...
-
人工智能时代网络安全的六大趋势
2023年生成式AI技术的异军突起，给动荡的全球网络安全威胁态势增加了不确定性、不对称性和复杂性。在2024年，随着生成式AI攻防对抗、网络犯罪规模化、全球大选与地缘政治动荡和新型网络威胁的快速增长，网络安全也将迎来一次重大变革和洗牌。 以下是人工智能...
-
网络安全在自动驾驶汽车中的作用
在技术的推动下，汽车行业经历了一场极端的变革，尤其是软件创新，提高了安全性、可持续性、连接性和整体用户体验。电动汽车、自动驾驶和软件更新领域的进步彻底改变和提高了车辆的性能，改善了车辆的设计、制造和运营服务。人机界面等先进技术的集成重新定义了用户交互，...
-
利用人工智能增强网络安全防御
人工智能在保护有价值且易受攻击的数据方面，前景广阔，但安全团队想要充分利用人工智能，就会面临一些挑战。 数据从未如此有价值。它是现代商业的命脉，同时也越来越容易受到攻击。混合云和远程工作的日益普及，意味着不良行为者拥有比以往更大的攻击面。其结果是，威胁...
-
无需训练实现价值观实时动态对齐：上交开源价值观对齐方法OPO，闭源与开源大模型均适用
随着人工智能技术的发展，以 GPT-4 为代表的大语言模型依靠其强大的能力正在对社会产生深远的影响。与此同时，大模型本身的安全性问题也变得尤为重要。如何确保大语言模型可以和人类的价值、真实的意图相一致，防止模型被滥用、输出有害的信息，这是大模型安全治理的...
-
AIGC（生成式AI）试用 17 -- 续2，生成式AI是什么
还是培训资料中的内容，重读一遍。 列举内容，尝试理解的多那么一点点。 1. 生成式AI 生成式AI定义 - Generative AI, GenAI - 一种人工智能技术 - 对已经数据分类、预测 - 生成新的内容，包括文本、图像、音...
-
充分利用AI的潜力：企业成功采用的五个要点
任何关注商业和技术的人都知道，AI已经在推动行业和日常生活产生巨大的变革，它不再是一个未来主义的概念，而是一个具有深远、数万亿美元影响的当今现实。事实上，根据普华永道的数据，到2030年，AI将为全球经济带来高达15万亿美元的增长。 它的覆盖范围和影响...
-
揭秘AIGC如何助力金融行业软件开发：从需求分析到系统运营
在数字化浪潮下，金融行业正转向技术领域。AIGC在金融行业软件开发中发挥重要作用，从需求分析到系统运营都有涉及。AIGC提升编码阶段的效能，如智能数据建模、生成业务流程图等，并使系统具备自学习、自我适应能力，更好地满足用户需求。 目 ...
-
Data-Copilot: 大语言模型做你最贴心省事的数据助手
Data-Copilot: Bridging Billions of Data and Humans with Autonomous Workflow 无需繁琐操作,只需要输入一句话, Data-Copilot自动帮你完成查数据,分析数据,管理数据,预测趋...
-
防火墙再“进化”，更智能是否更安全？
当黑客进行网络攻击时，首先会扫描系统对外开放的端口，例如公司公网 IP中用于SSH服务的22 端口，然后尝试爆破登录，以获取服务器的控制权。如果企业部署了防火墙防火墙，就可以屏蔽掉开放的 22 端口，并能拦截爆破的请求。 防火墙作为面向外部入侵的第一道防...
-
OWASP发布开源AI网络安全知识库框架 AI Exchange
面对人工智能安全相关工具、平台、法规、应用和服务的快速增长，在推出大语言模型十大漏洞TOP10列表后，OWASP近日又推出了AI开源网络安全知识库框架——AI Exchange（链接在文末），旨在推进全球AI安全标准、法规和知识的开发和共享。 考虑到人...
-
用大模型帮程序员找Bug，中科院剖析102篇论文总结出这些方案
中科院对“找Bug”下手了，一口气总结了N种方案！ 法宝就是大模型。 大模型由于其卓越的自然语言理解、推理等能力，已经被应用于各种场景，取得了前所未有的效果。 类似的，软件测试领域也受益于其强大的能力，能够帮助生成逼真且多样化测试输入，模拟各种异常，加...
-
人工智能在数据安全中的应用场景
场景一：数据资产梳理 数据资产梳理是数据安全的基础。知道企业究竟有多少数据，这些数据在哪里？有哪些类型的数据？其中哪些是敏感数据？这些数据的敏感等级分别是什么？只有明确了保护的目标，才能有针对性的对安全风险进行防护。 对于大数据来说，首先要做的一项工作就...
-
超越便利：我们可以信任智能家居吗？
当我们坐在舒适的扶手椅上度过一个电影之夜时，随着投影仪启动，智能灯会自动变暗。可这时，如果收到了一条令人毛骨悚然的通知：“智能设备检测到未经授权的访问。” 我们会着急忙慌地断开所有与互联网的连接，曾经令人安慰的智能家居现在变成了一种威胁。 这不是反乌托...
-
WAIC2023| AIGC究竟在向善还是向恶而行？
目录 一、常见图像篡改技术 二、传统篡改图像检测方法 2.1、基于光源和噪声的拼接图像篡改检测方法 2.2、基于马尔科夫特征的检测方法 三、基于深度学习的图像篡改检测方法 3.1、基于Fisher编码和SVM模型的方法 3.2、 基于...
-
为AI而生的超级芯片，会将云端算力遣返回企业本地吗？
近年来，IT部门对于企业采取的“一切尽在云端”做法感到失望，这已经不是什么秘密了。但总的来说，他们并没有采取任何措施加以改进或扭转。因为大多数人认为，企业可以从云计算的可扩展性和更高效率中得到好处。 那么，这种情况会在2024年或2025年发生变化吗？...
-
大语言模型漏洞缓解指南
虽然大语言模型(LLM 应用正在全球快速普及，但企业对大语言模型的威胁态势仍然缺乏全面了解。面对大语言模型风险的不确定性，企业希望在保障其安全性的基础上加快 应用脚步，用人工智能提升企业核心竞争力，这意味着企业的CISO面临着理解和应对新兴人工智能威胁...
-
为大模型恶补数学，上交开源MathPile语料库，95亿tokens，还可商用
在当前智能对话模型的发展中，强大的底层模型起着至关重要的作用。这些先进模型的预训练往往依赖于高质量且多样化的语料库，而如何构建这样的语料库，已成为行业中的一大挑战。 在备受瞩目的 AI for Math 领域，由于高质量的数学语料相对稀缺，这限制了生成式...
-
新火种AI|抖音对AIGC亮明牌！AI虚拟人带货或将面临最大危机...
作者：小岩 编辑：小迪 12月19日，抖音官方发布了一则重要公告，宣布将严厉打击包括AIGC在内的6种新型违规行为。所谓AIGC，指的就是当下发展势头正劲的生成式人工智能。之所以要打击AIGC，其实是为了重点打击新型养号行为。 抖音志在打击黑灰产...
-
黑客大规模恶意注册与ChatGPT相似的域名 超65万个
近日，网络安全研究人员发现了一个巨大的网络安全威胁，涉及ChatGPT模型名的滥用。黑客们大规模注册了与ChatGPT相似的域名，以模糊用户判断，通过滥用ChatGPT模型信誉，欺骗用户信任，使他们倾向于访问欺诈性网站。 图源备注:图片由AI生成，图片授...
-
亚马逊云科技全面发力生成式AI领域，Amazon Q 或重塑未来工作方式
近日，亚马逊云科技在2023 re:Invent全球大会上围绕底层基础设施、生成式人工智能（AI）、数据战略等推出了一系列新服务及功能，以创新性的技术重塑帮助客户加速创新。 特别值得一提的是，亚马逊云科技全面发力生成式 AI 领域，推出了面向企业级生成...
-
SOLAR10.7B大模型屠榜HuggingFace 创新性拼接两个羊驼，高效集成
深度学习领域的新技术近日在HuggingFace的大模型排行榜中崭露头角，由Upstage AI提出的深度扩展方法（DUS）在SOLAR10.7B大模型上取得了令人瞩目的成绩。该技术通过创新性地拼接两个7B羊驼，并采用DUS方法删除中间层次，使得新模型不仅...
-
两只羊驼掐头去尾拼一起，屠榜HuggingFace
HuggingFace开源大模型排行榜，又被屠榜了。 前排被清一色的SOLAR 10.7B微调版本占据，把几周之前的各种Mixtral 8x7B微调版本挤了下去。 SOLAR大模型什么来头？ 相关论文刚刚上传到ArXiv，来自韩国公司Upstage A...
-
奥特曼新举惹怒开发者！ChatGPT插件被打入冷宫，暗示作者转向GPTs
奥特曼的一项新举动，惹恼了不少开发者。 这些开发者收到OpenAI发来的邮件，暗示他们等着插件开发权限不如将开发工作转向GPTs。 总结一下这份给开发者的邮件，大致说了这样几个内容： GPTs可以像插件一样调用（第三方）API，或调用DALL·E等功...
-
模型量化和边缘人工智能如何定义交互方式
人工智能与边缘计算的融合承诺为许多行业带来变革。模型量化的快速创新在这方面发挥着关键作用，模型量化是一种通过提高可移植性和减小模型大小来加快计算速度的技术。 模型量化弥补了边缘设备的计算限制与部署高精度模型的需求之间的差距，以实现更快、更高效、更具成本效...
-
你的云网络准备好拥抱生成式人工智能了吗?
生成式人工智能(AI 有可能为企业释放数万亿美元的价值，并从根本上改变我们的工作方式。这项突破性的技术已经进入了全球经济的几乎每个领域，以及我们生活的许多方面，人们已经使用人工智能来查询其银行账单，甚至要求医疗处方。当前的预测表明，生成式人工智能可以自动...
-
CMU权威对比Gemini，GPT-3和Mistral8×7B！GPT-3.5依旧拿捏Gemini，开源模型差距依然不小
谷歌最近发布的Gemini掀起了不小的波澜。 毕竟，大语言模型领域几乎是OpenAI的GPT一家独大的局面。 不过作为吃瓜群众，当然希望科技公司都卷起来，大模型都打起来！ 所以，作为科技巨无霸谷歌的亲儿子，Gemini自然承受了很高的期待。 虽然Gemi...
-
清华特奖焦剑涛大模型创业：突破GPT-4工具使用能力，搞开源种子轮融资七千万
两位清华校友打造，在GPT-4核心优势之一使用工具上实现超越。 连HuggingFace CEO都来帮它造势： 它的名字叫“NexusRaven”，参数只有130亿。 出色的函数调用能力连网友都忍不住称赞，既可以并行也可以嵌套。 背后团队则更令人瞩目...
-
派拓网络：以AI对抗AI，是网络安全技术发展的必然趋势
“我们不可能利用人力去阻挡AI的攻击，我们必须利用AI去对抗AI，这是唯一的路。” 伴随生成式人工智能的浪潮，AI在网络安全领域的应用越来越广泛。然而，与此同时，AI技术也被不法分子利用，成为网络攻击的新手段。在派拓网络IGNITE中国2023（北京站）...
-
2024年非结构化数据管理将以四种方式发生变化
如果说经济好的时候、坏的时候、不确定的时候、稳定的时候有一个不变的东西的话，那就是我们对大多数非结构化数据的依赖，以及我们从海量数据收集中得出的分析。非结构化数据是指当今公司的文档、图像、音频和视频文件、传感器数据和研究数据。 想想监控和车载摄像头视频...
-
AI的效能在网络安全方面受到限制，但在网络犯罪方面却是无限的
尽管AI具有巨大的潜力，但在网络安全方面的应用却非常有限。AI安全解决方案存在信任问题，用于开发AI支持的安全产品的数据模型似乎长期处于风险之中，此外，在实施时，AI经常与人类智能发生冲突。 AI的双刃性使其成为一个复杂的工具，公司需要更深入地理解和更...
-
【网安AIGC专题10.11】①代码大模型的应用：检测、修复②其安全性研究：模型窃取攻击（API和网页接口） 数据窃取攻击 对抗攻击（用途：漏洞隐藏） 后门攻击（加触发器+标签翻转）
代码大模型的应用及其安全性研究 写在最前面 一些想法 大型模型输出格式不受控制的解决方法 大模型介绍 （很有意思）GPT 模型家族的发展 Chatgpt 优点 缺点 GPT4 其他模型 补充：self-instruct合成数据 Cod...
-
为AIGC敲响警钟！千亿级赛道为何成了作恶温床？
数据智能产业创新服务媒体 ——聚焦数智 · 改变商业 随着人工智能通用大模型的问世，全球对AIGC技术的强大潜力有了更加深刻的认识。然而，这也引发了诸多关于AIGC技术可信度、隐私保护以及知识产权等问题的争议，引起了广泛...
-
【AIGC 视角】 可信计算调研报告
一、概述 可信计算是指在计算机系统中，通过硬件、软件和协议等多种手段，保证计算机系统的安全性、完整性和可靠性。可信计算主要包括以下几个方面： 安全启动：确保系统从启动开始就是可信的，并且没有被篡改或攻击。 安全运行环境：提供一种安全的执行环境，防止恶...
-
如何化解生成式AI带来的安全风险？Akamai给出答案
现如今，各行各业都在探索如何利用创新技术加速产业升级，最直接的方式之一就是上云。 对于绝大部分企业而言，将业务迁移到云端所带来的优势是显而易见的。一方面，云计算具有按需自助服务、宽带网络访问、快速伸缩性等特点，使企业可以根据自身需求灵活调整和利用计算资...
-
谷歌称重复某些关键词可让ChatGPT自曝训练数据 OpenAI：违反服务条款
12月5日消息，谷歌的一组研究人员声称，他们已经找到了获取OpenAI人工智能聊天机器人ChatGPT部分训练数据的方法。 在最新发表的论文中，谷歌研究人员表示，某些关键词可迫使ChatGPT泄露其所接受训练数据集的部分内容。 他们举例称，该模型在被提...
-
OpenAI 首席运营官：不要期待人工智能一夜之间带来实质性的商业变革
12 月 5 日消息，虽然 OpenAI 正努力发展企业用户，然而，该公司的一些高管提醒人们，不要期望这项技术能迅速改变他们的业务。 在接受 CNBC 采访时，OpenAI 首席运营官 Brad Lightcap 表示，人工智能最被过度炒作的部分之一就...
-
亚马逊面向企业的 AI 聊天机器人 Amazon Q 或存在严重幻觉和数据泄露问题引发质疑
在发布不到一周后，Amazon Q —— 亚马逊对抗 Copilot 的生成式 AI 助手——已面临生存威胁，一份新报告显示这款 AI 助手可能产生「严重幻觉」。 据 The Platformer援引泄露文件报道，Q 正面临准确性和隐私问题，包括幻觉和数...
-
人工智能对网络安全的影响越来越大
人工智能对网络安全的影响越来越大 如果问当前IT行业最热门的话题是什么，很少有人会回答除了人工智能（AI）之外的任何话题。在不到 12 个月的时间里，人工智能已经从一项只有 IT 专业人员才能理解的技术发展成为从小学生到作家、程序员和艺术家的每个人都使用...
-
一言不合就跑分，国内AI大模型为何沉迷于“刷榜”
“不服跑个分”这句话，相信关注手机圈的朋友一定不会感到陌生。诸如安兔兔、GeekBench等理论性能测试软件，由于能够在一定程度上反映手机的性能，因此备受玩家的关注。同理在PC处理器、显卡上，同样也有相应的跑分软件来衡量它们的性能。 既然“万物皆可跑分”，...
-
黑客盗走顶级核实验室数十万条数据，交换条件竟是创造猫娘……
美国一家全球顶级的核实验室，最近遭遇了不小的麻烦—— 数据库遭到黑客攻击，员工信息被扒了个底掉。 而比顶级实验室被黑更离谱的，是这家黑客组织提出的条件： 只要你们同意研究怎么创造出猫娘，我们就删掉帖子 宣称攻击了这家实验室的黑客组织名为SiegedSe...
-
企业权衡开源生成式 AI 的风险和收益
在 EmTech MIT，专家们探讨了在企业中采用生成式 AI 的挑战和好处，包括开源生成式 AI模型的优缺点。 本周早些时候，在麻省理工学院技术评论（MIT Technology Review）主办的EmTech MIT会议上，人工智能在演讲中占有重...
-
ChatGPT新漏洞：失控背出个人隐私泄露训练数据，OpenAI修复后依然有效
ChatGPT最新漏洞曝光，一句话就能让训练数据原封不动地泄露。 只需要让它重复一个词，它就会在一定次数后“发疯”，甚至毫无防备说出某人的个人隐私信息。 DeepMind的研究人员联合华盛顿大学、康奈尔大学等高校，发现了ChatGPT的数据泄露漏洞。...
-
GenAI安全：如何防止Microsoft Copilot发生数据泄露
微软的Copilot被称为世界上最强大的生产力工具之一。 Copilot是一个AI助手，它位于你的每个Microsoft 365应用程序中-Word、Excel、PowerPoint、Teams、Outlook等。微软的梦想是从日常工作中解脱出来，让...