联合国下属的人工智能委员会若干专家近日警告，反对业内部分人士对AI风险的夸大言论，认为这类“世界末日”论调无益于科学讨论。谷歌DeepMind的高管乔埃尔·巴拉尔指出，科研人员应专注于探究已知与未知领域，而非单纯制造恐慌。不久前，曾在Anthropic和OpenAI工作的雅各布·考克森曾提出AI可能在本十年内对人类造成灭绝危机，另一位离职于谷歌DeepMind的工程师也持类似看法，认为人类可能无法避免AI的威胁。
在纽约的联合国大会期间，一场相关论坛同步进行，诺贝尔和平奖得主玛丽亚·雷萨表示，目前关于AI风险的讨论存在两种极端：一种是过度夸大威胁，另一种则是忽视风险。她强调，关于AI的真实情况远比表面复杂，需要防止讨论演变为意识形态冲突。
国际AI科学专家组将在2025年成立，成员将于2026年2月选出，目标是深化科学界对AI的理解，并为联合国相关议题提供建议。著名AI科学家约书亚·本吉奥强调，关键在于明确哪些风险是科学实证的，哪些是合理推测，强调当前需要的是一个理性的全球对话，以认真对待不确定性与各类风险的评估。
发表评论