站长之家(ChinaZ.com) 6月5日 消息:近日，一群前OpenAI和Google DeepMind员工在一封公开信中呼吁人工智能公司允许员工提出对AI风险的担忧，而不必担心遭到报复。他们认为AI可能加剧不平等、操纵信息，甚至导致人类灭绝。公开信要求AI公司遵守四项原则，包括不禁止批评、提供匿名渠道、支持批评文化以及不报复分享风险信息的员工。
此举可能源于OpenAI最近在员工离职协议问题上的态度转变。该公司承诺删除不贬损条款和股权追回条款，此前因这些条款受到外界批评。
公开信得到Yoshua Bengio、Geoffrey Hinton等AI界知名人士的支持。不过，对AI可能带来的具体危害仍存在分歧。有专家质疑AI对人类生存构成风险的说法，认为这转移了人们对当前AI危害的注意力。
前谷歌AI伦理研究员Margaret Mitchell博士指出，法律目前以牺牲工人为代价来支持大公司，使得举报人面临职业和心理健康风险。她呼吁对法律进行重大修改，以更好地保护揭露问题的员工。