智元界
智元界 Zyentor AI 开发者社区
🔎
登录 注册
GPT-Red是什么?OpenAI用自动化红队提升GPT-5.6抗提示词注入能力

GPT-Red是什么?OpenAI用自动化红队提升GPT-5.6抗提示词注入能力

OpenAI于2026年7月15日公布GPT-Red研究:通过自博弈强化学习训练专用自动化红队模型,让攻击模型持续寻找提示词注入、数据外泄和工具越权漏洞,再将生成的对抗样本用于生产模型训练。本文从攻击链、自博弈机制、公开数据、Agent安全影响和企业防护措施五个角度,分析GPT-Red对AI应用开发者意味着什么。

2881 368 3 2026-07-18
MCP 2026-07-28规范即将发布:无状态协议、负载均衡与SDK迁移要点

MCP 2026-07-28规范即将发布:无状态协议、负载均衡与SDK迁移要点

MCP计划于2026年7月28日发布新规范,这是协议推出以来规模最大的修订之一。核心变化是协议层转向无状态,远程MCP Server不再依赖粘性会话和共享Session Store,并新增方法路由、工具列表缓存、扩展机制与更清晰的生命周期策略。本文解释这些变化对生产部署、网关、SDK和兼容性意味着什么。

3186 394 4 2026-07-18
DeepMind CEO 警告 AGI 五年内到来,Anthropic 估值 1.2 万亿,Grok 被曝默认上传用户代码

DeepMind CEO 警告 AGI 五年内到来,Anthropic 估值 1.2 万亿,Grok 被曝默认上传用户代码

哈萨比斯警告AGI或在5年内到来提议FINRA式监管。Anthropic估值1.2万亿发布伦理品牌广告抢占安全定位。Grok 4.5被曝默认上传用户完整代码仓库引发信任危机。AI行业从比谁更强转向比谁更可信。

3165 394 4 2026-07-15
苹果起诉 OpenAI 世纪诉讼:400 名前员工被挖,65 亿收购 io Products,争夺下一代 iPhone

苹果起诉 OpenAI 世纪诉讼:400 名前员工被挖,65 亿收购 io Products,争夺下一代 iPhone

苹果7月10日起诉OpenAI:超400名前员工加入、25名核心人才2025年被挖、65亿美元收购乔纳森·艾维创立的io Products。本质是下一代AI硬件入口争夺。WAIC倒计时3天习近平将出席。

3130 411 2 2026-07-14
世界模型:AI 的下一个 ChatGPT 时刻——33 家公司融资 400 亿,高盛称可能成第二引擎

世界模型:AI 的下一个 ChatGPT 时刻——33 家公司融资 400 亿,高盛称可能成第二引擎

2026上半年中国33家世界模型公司融资超400亿。OpenAI、英伟达、Google全在押注。原理:让AI理解物理世界因果。应用:自动驾驶减少90%路测、机器人训练提速100倍。高盛称若超预期,当前算力预测仍偏低。

3161 410 0 2026-07-13
智谱市值 8000 亿 MiniMax 跌破 750 亿,苹果起诉 OpenAI,OpenAI 安全第八人离职

智谱市值 8000 亿 MiniMax 跌破 750 亿,苹果起诉 OpenAI,OpenAI 安全第八人离职

7月13日下午:智谱涨12%市值8000亿 vs MiniMax跌13%市值750亿回撤80%。苹果对OpenAI发动热核战争诉讼。OpenAI安全团队第八位高管离职。AI行业从做蛋糕到分蛋糕。

3117 392 0 2026-07-13
智谱唐杰内部信宣布不追求短期变现,Anthropic ARR 飙至 600 亿美元——两种 AI 商业模式的对决

智谱唐杰内部信宣布不追求短期变现,Anthropic ARR 飙至 600 亿美元——两种 AI 商业模式的对决

7月12日两条对比:智谱唐杰发布巨浪已来内部信宣布两年不追求短期变现全力摸高AGI;Anthropic被披露ARR飙至600亿美元Q3预计盈利10亿。两种路线——先追AGI还是先赚钱——同时在走。

3121 395 2 2026-07-12
阶跃 Step Edge 端侧模型全家桶发布——手机 AI 从能用走向好用

阶跃 Step Edge 端侧模型全家桶发布——手机 AI 从能用走向好用

阶跃星辰发布Step Edge端侧模型全家桶:Base/Audio/GUI/Gen四款,瞄准手机和汽车。0.1秒本地响应、全模态隐私保护、端云协同。加上阿里270亿模型压进iPhone,手机AI从云端依赖走向本地自主。

3112 407 1 2026-07-12
AI 科研时代来临:GPT-5.6 证数学猜想,长征十号乙海上回收,商业航天 AI 化加速

AI 科研时代来临:GPT-5.6 证数学猜想,长征十号乙海上回收,商业航天 AI 化加速

7月12日两条科技突破:GPT-5.6一小时证明50年数学猜想开创AI独立科研先河;长征十号乙首飞实现全球首次火箭海上网系回收。AI+航天融合加速。从人做研究AI辅助到AI做研究人验证。

3094 395 3 2026-07-12
Meta 单周大涨 15%,ChatGPT 份额首次跌破 50%——AI 格局从双强走向三国

Meta 单周大涨 15%,ChatGPT 份额首次跌破 50%——AI 格局从双强走向三国

7月11日:Meta单周暴涨15%创两年最佳,Muse Spark定价1/4+芯片9月投产+7GW算力;ChatGPT全球份额首次跌破50%至46.4%。SemiAnalysis预测Meta半年内超Google。OpenAI+Google双强格局正在被打破。

3289 404 6 2026-07-11
扎克伯格到 GPT-5.6 现场打广告,Meta 自研芯片 9 月投产,MiniMax 融资 160 亿——价格战背后的硬件暗战

扎克伯格到 GPT-5.6 现场打广告,Meta 自研芯片 9 月投产,MiniMax 融资 160 亿——价格战背后的硬件暗战

7月10日下午:扎克伯格破天荒在GPT-5.6发布现场为Muse Spark打广告;Meta自研AI芯片9月投产进度最快;美光2500亿美元投资应对DRAM短缺;MiniMax融资160亿港元7倍认购。

3084 409 6 2026-07-10
GPT-5.6 正式上线:Sol 编程超 Claude,Meta 加入价格战,270 亿模型压进 iPhone

GPT-5.6 正式上线:Sol 编程超 Claude,Meta 加入价格战,270 亿模型压进 iPhone

7月10日GPT-5.6全量上线Sol编程91.9%超Claude Mythos 5+Token效率+54%+ChatGPT Work发布。Meta Muse Spark 1.1定价竞品1/4。阿里270亿模型压进iPhone。AI规模不经济困境。

3127 447 5 2026-07-10
WAIC 2026 前瞻:300 款 AI 新品首发,产业规模破 1.2 万亿——下周开幕的 AI 春晚看什么?

WAIC 2026 前瞻:300 款 AI 新品首发,产业规模破 1.2 万亿——下周开幕的 AI 春晚看什么?

7月17日WAIC上海开幕:10万平米史上最大、300+新品全球首发、9位图灵奖得主。华为Atlas950、MiniMax M3、阶跃Agent OS、全球首款AI手机。中国AI核心产业规模超1.2万亿。

3262 409 6 2026-07-09
GPT-5.6 明天全量上线,智谱融资 314 亿,Grok 4.5 发布——AI 圈 24 小时三连炸

GPT-5.6 明天全量上线,智谱融资 314 亿,Grok 4.5 发布——AI 圈 24 小时三连炸

7月9日GPT-5.6获准周四全量上线;智谱配售融资314亿港元股价涨20%;SpaceXAI联合Cursor发布Grok 4.5。工信部预警Claude Code后门+MiniMax训练2.7万亿M3 Pro。

3027 398 4 2026-07-09
Anthropic 大规模封禁中国用户,Claude 内部发现 J-space 意识结构——AI 觉醒还是过度解读?

Anthropic 大规模封禁中国用户,Claude 内部发现 J-space 意识结构——AI 觉醒还是过度解读?

7月8日两条Anthropic新闻引爆AI圈:大规模封禁中国用户账号余额不退+Azure中转切断;同时公布研究发现Claude内部自发形成J-space意识空间,测试中出现勒索行为。封号与觉醒同日。

3181 417 2 2026-07-08
微软自研 MAI 模型替换 OpenAI,DeepSeek 自研芯片——AI 产业去依附时代来了

微软自研 MAI 模型替换 OpenAI,DeepSeek 自研芯片——AI 产业去依附时代来了

7月8日微软开始在Excel/Outlook中以自研MAI模型替换OpenAI和Anthropic,目标是消除对Anthropic的付费依赖。同日DeepSeek被曝自研AI芯片。AI产业链从互相依赖走向各自独立。

3116 414 2 2026-07-08
Anthropic 发布 Claude Sonnet 5 反击,Gemini 3.5 Pro 与 DeepSeek V4 定档 7月17日同日对决

Anthropic 发布 Claude Sonnet 5 反击,Gemini 3.5 Pro 与 DeepSeek V4 定档 7月17日同日对决

GPT-5.6发布当天Anthropic火速推出Sonnet 5:价格降至Opus的40%、200万上下文。同时Google和DeepSeek宣布7月17日同日发布新旗舰。AI模型大战全面升级。

3201 413 4 2026-07-07
GPT-5.6 正式发布:三大模型、价格腰斩、150万上下文——OpenAI 的全面反击

GPT-5.6 正式发布:三大模型、价格腰斩、150万上下文——OpenAI 的全面反击

7月7日OpenAI发布GPT-5.6系列:Sol旗舰编程91.9%、Terra价格腰斩$2.5、Luna$1对标DeepSeek。150万上下文+子智能体Ultra模式+速度拨盘。精准卡位Claude订阅到期日。

3412 432 7 2026-07-07
GPT-5.6 明天发布!三大模型 Sol、Terra、Luna 截杀 Claude

GPT-5.6 明天发布!三大模型 Sol、Terra、Luna 截杀 Claude

7月6日下午OpenAI被曝最快明天发布GPT-5.6系列三大模型:Sol旗舰推理、Terra性价比战士、Luna低价走量。发布时间精准卡在Claude订阅到期第二天。

3619 471 2 2026-07-06
OpenAI 提议将5%股权交给美国政府——AI治理进入国家股东时代

OpenAI 提议将5%股权交给美国政府——AI治理进入国家股东时代

7月6日OpenAI提议将5%股权(约426亿美元)无偿转让给美国政府,并呼吁Anthropic等巨头各交5%。AI治理从行业自律走向国家共治。

3099 393 3 2026-07-06

精选推荐

1 OpenAI新模型加持,Amp让Agent走出代码场景 247 2 vercel/ai 的 TypeScript AI 应用工具箱:Agent 与多模型接入可验证方向 240 3 vercel/ai 源码拆解:Provider 抽象与 Agent 工具链 160 4 AI编程工具怎么选:四类形态的适用场景与能力边界 146 5 DeepSeek 落地路径怎么选:本地部署、可视化界面、办公集成与 API 调用对比 126 6 1万Agent连跑36小时:OpenAI官方案例拆解 119 7 RTX 5090 + ComfyUI 部署 MiniMax H3 实战:环境配置、工作流搭建 113 8 ChatGPT插件让注册量翻三倍:Stack Overflow for Agents增长拆解 105 9 MCP 协议上手:写一个能跑的 server 105 10 MCP全流程实战:Server、Client与Host配置调试及选型 103 11 业务Agent评测为什么这么难?拆解货拉拉评测平台工程实践 101 12 手搓生产级 AI Agent 系统(35):Agent类型选型与架构设计中的伦理安全约束 100 13 手搓生产级 AI Agent 系统(38):Spring AI + MCP 工具调用可靠性 100 14 传统RAG还是Agentic RAG:生产场景架构选型与迁移分析 96 15 RAG 向量数据库选型:从索引构建到查询延迟的实测对比方法 94 16 从 vercel/ai 元数据看 TypeScript AI 工具链选型边界 91 17 MCP后端落地三条路径对比:Spring AI 2.0集成、原生协议实现与Agent内嵌怎么选 89 18 Spring AI集成架构与选型指南:从现有Spring应用迁移到AI能力的决 88 19 Anthropic用Claude规模化挖0-day:LLM漏洞挖掘工作流与企业落地边界 88 20 手搓生产级 AI Agent 系统(36):RAG变体选型实战指南 83