家居科技公司力推“感性智能”。我们应否信之?
1 周前 / 阅读约5分钟
来源:CNET
LG等公司正在努力让AI更柔和,推出新一代语音助手。但AI进入家庭存在数据收集、数据漏洞和不准确等问题,需要更多测试和谨慎。面部识别服务也面临隐私和法律问题。

LG等公司正努力让AI更人性化,引领下一代语音助手的发展。LG

步入2025年,消费者或许已对“AI”一词抱有复杂情感,尤其是在家居科技领域。

LG最新推出的家居AI概念——“感性智能”,描绘了一个未来高级语音助手的愿景,它能更自然地理解语言并操控智能家居设备,但这一构想也带着一丝反乌托邦色彩。

苹果智能(强调“智能”而非“人工”)若传闻成真,未来几年或能助力管理苹果安全摄像头或面部识别门铃。从谷歌的双子座和“代理”到Vivint的Salesforce支持的“Agentforce”,再到Swann Security的“SwannBuddy”,企业不断尝试将AI融入家庭,只是他们不愿直接以“AI”相称。

苹果智能、谷歌双子座代理等正悄然进入我们的家庭。Jeff Carlson/CNET

尽管我欣赏安全摄像头等技术中的AI算法,但我也理解企业为何难以为这股无处不在的AI新潮流找到一个令人愉悦的角度。自雷·布拉德伯里的《华氏451度》及后续众多作品问世以来,人们对全能计算机控制家园并操控亲人的灾难性后果始终心存不安。

家,是展现脆弱与隐私的避风港:大哥(Big Brother)式的监控并不适合这里。语音助手和智能音箱对某些人而言已过于亲近,而这股新的AI潮流更是将他们推向了更深的隐私边界。

因此,家居科技企业陷入了两难境地。他们渴望构建一个世界,让你每天清晨都能像与健谈的管家交谈般与家互动。但这个世界同样意味着,一个容易出错的AI时刻在监听,其触角延伸至每一件可能的电器和设备。企业试图避开这一令人不安的话题,迅速宣称这是美好、安全甚至可爱的进步——但这远未结束关于隐私的讨论。

智能家居接纳AI的三大挑战

SwannBuddy是最新的智能家居对话式AI。Swann Security

LG的“感性智能”及其他AI改造不太可能对身体造成伤害——至少被狮子吃掉如布拉德伯里所描述的灾难性场景仍属罕见。部分技术,如SimpliSafe或ADT的面部识别,确实旨在提升安全或至少增强感知能力。然而,真正的问题更为隐蔽,且一如既往地关乎我们的隐私与数据。

数据收集

首先,数据收集是个问题。当你说“嘿,LG(或谷歌、Siri等),我要去睡觉了,请帮我关掉一切”时,家庭AI不仅在执行你的命令,还在收集你说这句话的时间、意图、用词,甚至语气等信息。

这些数据对企业而言极具价值,可用于训练AI、建立客户档案,甚至可能重新包装后出售给广告商。并非所有人都愿意让企业窥探其隐私。我们已与语音助手及众多需更改的设置进行过这场拉锯战,以阻止企业收集数据:如今,战斗再次升级,赌注更高。

Google Home的新Google Gemini集成支持自然对话自动化。Google

数据泄露

其次,所有通过AI进行的集成都可能增加数据泄露的风险。尽管直接的智能家居黑客攻击较为罕见,但个人信息数据库的黑市始终存在。我们还需警惕安全员工窥探摄像头或陌生人突然闯入家中等威胁。Matter等协议正努力提升安全性,但Matter尚未覆盖摄像头,其他安全漏洞仍令人担忧。

准确性问题

第三,对话式AI和聊天机器人仍频繁出现错误。它们可能臆造未发生之事,对家庭安全的重要问题给出错误答案,或在物体识别时常将宠物与人类混淆。让这类AI负责智能家居并期望其准确无误地执行任务,无疑是一个充满疑问的提议,可能增加而非减轻压力。

AI接管家庭前需解答的诸多问题

让智能家居更智能听起来不错,但今天的AI仍需证明其价值。LG

我个人认为,对话式AI在智能家居中确有一席之地,尤其是当你已习惯使用语音助手控制设备时。但我们绝不能让它成为数据泄露或个人信息收集的温床,这些信息我们应保持私密。这意味着需要对CNET等技术中心的数据存储进行严格测试和质疑,并对邀请AI进入恒温器、灯具、锁具和电器的房主保持高度警惕。

面部识别服务及其高级算法是更为棘手的问题,尤其是人们很少有机会选择谁为其创建面部特征(例如,只需匆匆一瞥拥有Nest门铃的人,就能为其创建面部联系人)。

友好面部技术正迅速占领智能家居安全领域。SimpliSafe

面部特征具有独特的隐私问题,但已成为AI驱动智能家居不可或缺的一部分。这已与美国多地身份法律发生冲突,从俄勒冈州波特兰到伊利诺伊州,该技术已被禁止。战斗才刚刚开始,未来一年内我们将对此进行更多报道。

家庭AI正期待与你交流安全、日程、习惯与忧虑。作为回报,它愿为你处理所有智能家居细节。但自我管理家庭日常亦有其优势,且关于这种面带微笑的AI长期运作的问题依然存在。目前,我们需谨慎前行。