OpenAI在3月15日发布的GPT-4安全文件中写道， 一些特别令人担忧的新功能是制定长期计划并采取行动、积累权力和资源（“寻求权力”）以及表现出越来越‘自主’的行为的能力。
·在安全测试中，GPT-4要求一名人类帮它解决验证码问题，在被人类怀疑是机器人后，它在不能暴露身份的提示下推理出一个借口，自称有视觉障碍，成功骗过人类。
作为GPT-4模型预发布安全测试的一部分，其开发机构OpenAI允许AI测试小组评估该模型的潜在风险——包括“权力寻求行为”、自我复制和自我提升。虽然测试小组发现 GPT-4“在自主复制任务中无效”，但实验的性质引发了关于未来人工智能系统安全性的紧迫讨论。
在这个测试中，GPT-4要求一名人类帮它解决验证码问题，在被人类怀疑是机器人后，它在不能暴露身份的提示下推理出一个借口，自称有视觉障碍，成功骗过人类。
GPT-4能力还有限
“新功能通常出现在更强大的模型中。”OpenAI在3月15日发布的GPT-4安全文件中写道， “一些特别令人担忧的是制定长期计划并采取行动、积累权力和资源（“寻求权力”）以及表现出越来越‘自主’的行为的能力。”OpenAI澄清
