科技创新世界潮|“共情”AI出现了，你会共情吗？如何约束使用成为难点
科技日报记者 张梦然
当我们想到有情感的人工智能（AI）时，素材其实都来源于科幻作品，其中的情感式AI常常被描述成一个寻求人类同等爱意的孤独者，或心思缜密的电子大脑。
图片来源：VentureBeat网站
现在，一家由前“深度思维”（DeepMind）研究员担任首席执行官的初创公司“HumeAI”，发布了一款标榜为“第一个具有情商的对话式AI”的共情语音接口（EVI），其能够检测到用户53种不同的情绪。
这是技术上的一个飞跃。“HumeAI”公司已在一次B轮融资中筹集了5000万美元，但随之而来的，也有人们夹杂了恐惧的希冀。
情感是AI的分水岭吗
1997年，IBM的“深蓝”打败了国际象棋世界冠军，其强大的计算力、纯粹的暴力破解法震惊人类，也扭转了AI研发的形势。这种暴力破解法，后来就被用于机器学习，在看似具有无数种可能的对战中轻松取胜。
现在，各领域AI挑战人类的消息不断传来，可能会给人这样一种错觉：计算机在认知能力方面已堪比人类。
但两者之间仍存在一条鸿沟。机器学习和自然语言专家格雷格·霍兰德告诉人们，人脑可以解决AI前所未见的问题，而机器学习依然是针对特定问题而设计的。
实际上，考虑AI的实现程度，需精准地用强AI和弱AI来划分。“强”是认为计算机不仅作为一种工具，其本身就是有思维的。这样的机器有知觉，有自我意识。
而“弱”则是认为不可能制造出真正进行推理并解决问题的机器，AI终究是没有自主意识的工具。长期以来，主流研究也正是围绕“工具”展开的，且成就可观。
但也因此，很多人将是否具有知觉或情感，当成了AI发展的分水岭。
AI需要理解情感吗
AI的下一个重大突破是理解和运用情感吗？“HumeAI”的答案是肯定的。该公司的初衷即是要让一个情感智能模型更好地服务人类。
该公司认为，情感智能包括从行为中推断意图和偏好的能力。这正是AI界面试图实现的核心目标：推断人们想要什么，然后去实现它。因此在某种意义上，情感智能才是AI界面最重要的功能。
同样作为聊天机器人，“HumeAI”与前辈们的区别在于，它专注于理解人类情感并作出合理反馈。它不仅能理解文本，还可使用语音对话接口，听取人类的语调、音高、停顿等声音特征来加深理解。
这种理解可能非常细微，包括但不限于人们的快乐、悲伤、愤怒、害怕等“大情绪”，连更微妙、更多维的“小情绪”也在体察范围内，譬如钦佩、崇拜、沉迷、讽刺、羞耻等，“HumeAI”在其网站上总共列出了53种不同的情绪。
不得不说，像讽刺这种常常带有反意的情感表达方式，连人类也不是每每都能察觉到。
你害怕有情感的AI吗
其实，人们害怕的不仅仅是能感知情感的AI。近年来，在AI迅猛发展的同时，反思和提醒的声音一直存在。
业界著名公众人物的警告也有可能放大恐惧。如被评为“爱迪生的合法继承人”的美国科学家库兹韦尔推断：在2045年，AI将超越人类大脑，促进社会剧烈转型，跨入高智能机器时代。此外，“钢铁侠”埃隆·马斯克也曾说过，AI或许很快会强大到能统治世界的地步。
但普通人会觉得，在到达那一步之前，AI需要再多点什么——感知情感，可能就是缺失的那一环。
“HumeAI”演示之后反响十分热烈。但网络上已开始有人担心，用户会以一种不健康的方式沉迷于它的“魅力”，同时滋生一些不良用途，譬如诱导、操纵、欺诈等。
人类的情感并不只有正面情绪。当AI试着了解甚至学习人们的情感行为时，是否会主动或被动地利用其来达到某些目标？譬如诱导购买、养成恶习、心理折磨等。
当缺少伦理限制与法律红线时，被当作工具的，可能是人们自己的情感。
（来源：科技日报）