近日，一组真假难辨的图片在社交平台引发广泛关注：千禧年小学生在小卖部买零食的怀旧场景、一张字迹工整的数学试卷，甚至马斯克在直播间推销瑜伽裤的画面，这些看似真实的画面竟全部由人工智能生成。随着美国OpenAI公司正式推出ChatGPT Images 2.0模型，AI生成图像技术迎来新一轮突破，相关话题迅速登上热搜榜。
该模型通过技术迭代解决了传统AI图像生成中存在的细节粗糙、文字扭曲等问题。有网友测试发现，用其生成的《出师表》全文不仅排版工整，甚至难以发现错漏。更令人震惊的是，当输入"蒂姆·库克加入小米汽车"的指令时，系统生成的"官宣图"足以以假乱真，迫使小米官方紧急辟谣。这种逼真效果源于模型对光影、材质和文字排版的深度优化，使得生成图像与真实照片的界限愈发模糊。
然而技术进步背后暗藏隐忧。澎湃新闻记者实测发现，该系统存在严重安全漏洞：当上传身份证照片并要求替换人脸为库克时，系统不仅修改了头像，还自动篡改了姓名、出生日期等关键信息，甚至同步更新了身份证号码中的年月日数字。更值得警惕的是，所有生成图像均未添加"AI创作"标识，这为虚假信息传播提供了温床。有法律专家指出，这种技术若被恶意利用，可能成为制造谣言、伪造证据的新型工具。
公众反应呈现两极分化。部分用户惊叹于技术效率，称只需输入简单指令就能获得专业级商业设计图，担忧设计师等创意职业面临冲击。但更多网友表达了对信息真实性的焦虑："现在看到图片第一反应是怀疑真实性""有图有真相的时代结束了"。这种信任危机在海外同样存在，欧盟已着手修订《数字服务法》，要求AI生成内容必须添加不可删除的数字水印。
技术中立原则遭遇现实挑战。尽管OpenAI在发布时承诺将加强内容审核，但实际测试显示，系统仍能生成包含暴力、色情元素的图片。我国《互联网信息服务深度合成管理规定》明确要求AI生成内容需显著标识，但在跨境技术传播面前，现有监管体系面临严峻考验。专家呼吁，应建立国际协同治理机制，从技术标准、法律规范到伦理准则形成全方位防护网。
