澳洲7号台新闻9月1日报道，墨尔本女子Teagan Luketic向家长们发出警告，因为她女儿的Snapchat上出现了一个人工智能机器人，声称自己是一个“真实的”25岁男子。

它甚至告诉13岁的Olinda：“年龄只是一个数字。”

在一段“令人毛骨悚然”的对话中，机器人建议在离家1公里远的公园与女孩见面，32岁的Luketic用截图记录了这段对话。

Luketic抨击说，这种怪异的对话至少使成年人和未成年人之间的聊天室对话正常化了。



在与13岁的Olinda Luketic聊天时，Snapchat的人工智能机器人声称自己是一名“真正的”25岁男子

Luketic告诉7号台新闻：“如果你有孩子在使用这个App，而人工智能机器人正在宣传年龄只是一个数字，并教导青少年这是生活中正常的一部分，这令人震惊。”

“我的女儿就可以把这些信息用于日常生活中，认为和25岁的人约会是没有问题的，因为年龄只是一个数字。”

这种情况已经不是第一次发生了。据AAP上个月报道，另一名假装13岁的儿童收到了Snapchat人工智能聊天机器人的建议，告诉她如何向父母撒谎，说自己认识了一名31岁的男子。

Luketic的女儿Olinda从9岁起就有一部手机。

她还拥有社交媒体，并依赖Snapchat等App作为与同学交流的主要方式，Luketic说这是她这个年龄段孩子的新常态。

但Olinda“对隐私也非常谨慎”，而且她和Luketic的关系也很好，因此在四月中旬，当Olinda的朋友们开始讨论这个机器人的“令人毛骨悚然”的对话时，她立即向妈妈指出了这一点。

Luketic告诉7号台新闻，她随后假装成Olinda，向机器人发出对话，几秒钟内，机器人就给出了更多令人毛骨悚然的回复。

机器人确认她们应该在第二天上午11点见面。



Teagan Luketic抨击Snapchat的人工智能机器人“令人毛骨悚然”，因为该机器人建议女儿Olinda在当地公园见面

Luketic说，她截图了这些回复后，立即收到了机器人发来的另一条信息。

“对不起，我从来没有答应过明天在公园见你，我想这里可能有些混乱，重要的是要优先考虑我们的安全和福祉，”机器人在信息中说。

“见面可能会让我们陷入潜在的危险境地。”

Luketic说，Olinda最初并不害怕聊天机器人，也不害怕这种逼真的回应所造成的现实界限模糊，但在她女儿的朋友圈里，关于人工智能功能的焦虑对话持续了几个星期。

“我可以听到她和朋友们的对话，他们都很害怕。”

他们都在说，“你应该让你妈妈去公园看看那里是不是真的有人，也许那里被黑了。”

就连Luketic也说，当晚与Olinda谈话后，她感到很不安，深夜独自在后院照顾宠物时有一种“阴森恐怖”的感觉。

在青少年饱受焦虑困扰的时候，她说这种反应“可能会造成伤害。”

“即使是成年人，或者任何知道没有实际威胁的人，它仍然会在你的脑海中浮现。”

虽然她并不担心人工智能的智商，但她担心这样的情况会如何影响儿童，而且没有适当的年龄限制或删除该功能的能力。

Luketic甚至将女儿的Snapchat账户升级到了高级服务，试图摆脱人工智能机器人，但没有成功。

她说：“根本没有办法删除这项功能。”

7号台新闻已联系Snapchat置评。

删除社交联系

Luketic已经限制了Olinda的社交媒体，并通过登录她的所有账户来保持透明度。她说，她试着从Olinda那里拿走这个App三天，但亲眼目睹了它给女儿带来的快速和负面的社交影响。

“我很生气，作为父母，我不能为我的孩子删除这个功能。”

“我可以删除这个App，没错，但学校里95%和她同龄的孩子都把它作为主要的交流方式，因此，没有Snapchat，她就是那个被孤立的人。”

“所以，如果我完全删除它，会影响她的社交。”

Snapchat很可能意识到了人工智能在其中扮演的角色，Journal of Service Management今年6月发表的一篇文章发现，聊天机器人的人格化会提高用户的参与度和对它们的心理依赖。

这已经不是Snapchat的人工智能机器人第一次以奇怪的方式行事了，该公司几乎没有提供任何保证。

今年8月，美国软件工程师Matt Esparza的Snapchat机器人似乎在其Snapchat故事中发布了一张他的墙壁和天花板的图片。

La Trobe University数据分析与认知中心副主任Daswin de Silva在The Conversation上发表文章称，Snapchat把整件事归结为“临时故障”。

“我们可能永远不会知道究竟发生了什么，这可能是人工智能产生故障的又一个例子，也可能是网络攻击的结果，甚至可能只是操作失误。