Small Devices Could Soon Handle Large Language Models

主题：边缘人工智能（Edge AI）的发展和应用前景

要点：

1. 过去需要数百万美元每月才能运行的人工智能模型，现在可以适应手机尺寸。
2. 边缘人工智能是一种在设备上运行人工智能模型的方法，近期的技术进步使其重新受到关注。
3. 卡内基梅隆大学、华盛顿大学、上海交通大学和人工智能初创公司OctoML的工程师们最近合作，使大型语言模型（LLMs）能够在iPhone、Android、PC和浏览器上运行。
4. 如果这项研究能够转化为日常现实，将极大地扩大人们使用生成式人工智能的方式。
5. 目前，大多数人工智能模型在云端运行，用户需要从Azure、AWS和Google等提供商租用强大的服务器来处理每天可能收到的数百万个查询。
6. 边缘人工智能的发展可以使人们能够在设备上直接运行人工智能模型，无需依赖云端服务器。
7. 边缘人工智能的应用前景广阔，可以在各种设备上实现更多的人工智能功能。
8. 然而，将研究成果转化为实际应用仍然存在一定的挑战和不确定性。