9月18日,据《商业内幕》报道,由多家监督组织组成的AI评估机构论坛发布公开信,为第三方风险评估划出最低条件,认为Anthropic和OpenAI等AI实验室只有满足特定要求,才能与外部评估机构开展更有效的合作。公开信获数十名AI领域人士联署,包括杰弗里·辛顿和斯图尔特·罗素。
论坛称,驻场第三方评估人员要具备公信力,必须保持科学客观性、透明度和独立性,并免受被评估企业干预;他们应能直接与公司董事会及拥有特殊监督权限的机构沟通,不受企业过滤或限制,并有权公开发布评估结果。
公开信还要求保护评估人员免遭AI实验室报复,给予其与内部评估人员相同的系统、数据、工具和实体场所访问权限,并主张每家AI实验室引入观点和专业背景不同的评估人员,覆盖生物科学风险、AI失控风险等领域。
