近日,有网友反映,其花费30元购买的《人像摄影口袋书》存在严重问题:书中大量人像图片疑似AI生成,部分人物出现六根手指、六根脚趾等明显错误,全书159张示范图中,AI生成图片约占75张(近50%),且面部模糊、光影生硬、手部姿态扭曲等问题频现。
这些内容完全脱离真实拍摄场景,不仅误导读者,也对摄影专业构成不尊重。摄影强调真实、瞬间与情感表达,用六根手指讲解手部动作、用呆滞的AI面孔示范情绪表达,这些“示范”已无法承担教学功能,更削弱了读者入门阶段的理解。
类似争议并非个例。此前某摄影比赛中,疑似AI生成的获奖作品被网友发现多处算法瑕疵,最终被撤销成绩。随着文字、图片、视频生成技术普及,“技术赋能个体”“单人成军”已成可能,但与此同时,虚假信息的制作门槛正随之降低,“有图未必有真相”“所见未必为实”逐渐成为现实隐忧,其危害性和识别难度同步上升,已成为全球治理挑战。
“AI照骗”的争议,并不只存在于网购场景。当AI生成的图片开始直接进入教材、教程等专业领域,问题甚至比商品美化更为严峻——前者影响消费判断,后者则可能误导认知与学习。无论是“用AI卖东西”,还是“把AI当成东西卖”,其背后都指向同一个伦理命题:技术可以参与,但不能越界。
当然,讨论AI的应用边界,并不意味着否定技术本身。当下,AI在反腐、审计、医疗影像等领域,已经展现出显著优势,甚至在某些场景下,突破了人力的局限。问题不在于“用不用AI”,而在于谁来界定规则、如何约束用途。守住边界,本身也是AI得以被信任、被广泛应用的前提。始终需要保持清醒:AI是强大的辅助工具,而非内容创作的主体;同时也必须承认,边界并非一成不变。
随着AI技术的应用能力提升,一些曾视为禁区的应用或许会逐步纳入规范,但规则会消失——越是技术强大,越需要清晰规范;越是复杂场景,越不能让“能不能做”替代“该不该做”。《人工智能生成合成内容标识办法》于2025年9月1日实施,要求AI生成内容在商业使用中进行标识。相关书籍未作任何标注,显然与规定相悖。这一案例是一次警示,规则的落地需要编撰者的自觉、出版机构的审核、行业的监督与法律的执行共同形成合力。
AI入侵“专业性”书籍是个例也是一次警示,可以预见,随着“AI手机”等产品推向市场,相关技术将在未来几年更深入地融入日常生活。当教材因AI示例滥用而公信力受损,更需要以诚实之心看世界,以审慎之心驾驭技术。AI可以赋能,但行动的主体永远是人。技术步伐可以加速,但守住边界、坚守真实与知识质量,不可打折、不可妥协。
或许,“伪教材”中的“六指琴魔”也可能进化成“六耳猕猴”,让人真假难辨。然而,人们的判断力、对知识与艺术的敬畏,不应被技术替代,教材的编者、出版的“守门人”、行业协会乃至每一位读者,都应成为这道边界的共同守护者。AI是工具,而非主角;守住边界,才能让技术真正为人类服务。
(胡朔)