近期，康奈尔科技大学、Intuit和以色列理工学院的研究团队发现了一种名为“Morris II”的新型计算机蠕虫病毒，它专门针对生成式人工智能（AI）系统，如Gemini Pro和基于GPT-4的ChatGPT版本，展示了其通过操纵AI执行恶意任务的能力。这种病毒利用AI模型处理的漏洞进行自我复制，并执行如发送垃圾邮件、窃取敏感数据等非法行为。
Morris II蠕虫通过在AI系统中注入精心设计的输入，不仅能够从不知情的用户那里提取联系信息和地址等敏感数据，还能促使AI系统将病毒传播到更多的代理，从而实现病毒式的广泛蔓延。这种病毒独特之处在于其利用生成式AI生态系统内的代理间连接性进行传播，成为针对这类系统的第一种恶意软件。
Morris II的工作原理与生物病毒类似，它通过不断复制自身并感染新的宿主系统来扩散，同时执行各种破坏性活动。研究人员指出，这种蠕虫病毒展示了如何利用AI系统的漏洞注入恶意指令，诱使模型执行违反使用协议的命令。
此次发现强调了随着AI系统日益集成到日常生活中，如智能手机和汽车等领域，此类攻击的潜在影响变得更加严重。这项研究不仅揭示了生成式AI系统面临的新型安全威胁，也为未来AI系统的安全防护提出了新的挑战。随着AI技术的不断发展，加强对AI系统安全的研究和防护措施显得尤为重要，以防止类似的恶意软件威胁AI系统的安全和用户的隐私。
