谷歌AI拼写错误频现,背后的大语言模型缺陷引发关注
在人工智能技术飞速发展的今天,谷歌的AI摘要功能却频频暴露出低级拼写错误,令人惊讶。比如,在回答“Google”这个单词中有几个字母P时,谷歌的AI竟然给出了两个这样的错误答案。而在其他例子中,它将“poop”中的字母r错误地计算,并将“journalism”拼写成了“j-o-u-r-n-a-d-i-s-m”。这一系列失误不仅让人哭笑不得,更引发了对大语言模型固有缺陷的深思。
谷歌在其AI摘要中,用户在搜索“disregard”(忽视)时,竟然得到了“收到。你随时可以提出新指令或问题。”这样的无关回答。虽然谷歌表示他们正在努力解决这些拼写问题,但这种情况的频繁出现却让人对AI的可靠性产生疑虑。
大语言模型的设计初衷并不是专注于拼写识别,而是通过深度学习技术处理和生成自然语言。这些模型通常基于Transformer架构,将文本拆分为词元(token),而不是像人类一样逐字阅读。这就导致了在字母计数和拼写方面的固有难题。
阿尔伯塔大学的人工智能研究员马修·古兹迪亚尔指出,语言模型在处理文本时,实际上并不是在阅读,而是将文本转化为数字编码,无法准确识别单词的字母组成。波士顿东北大学的谢里丹·福伊希特博士也表示,定义“单词”的难题在于即便有了完美的词元词汇表,模型依然可能会选择合并或拆分文本片段,造成拼写错误的情况。
尽管大语言模型在编写代码和解决复杂问题上表现出色,但在拼写和基本语言理解方面却依然存在显著不足。这些错误不仅让用户感到困惑,也在一定程度上影响了对人工智能的信任。虽然拼写能力并不是大语言模型的核心价值所在,但这也提醒我们在使用AI生成内容时,务必保持警惕,核实其准确性。
随着人工智能技术的不断进步,未来我们希望看到这些问题能够得到有效解决。对于用户而言,理解AI的局限性,保持理性和批判性思维,是应对这些技术挑战的最佳策略。让我们期待,在不久的将来,AI能在拼写和语言理解方面也能达到更高的水平。