站长之家(ChinaZ.com) 8月14日消息:美国证券交易委员会主席 Gary Gensler 表示，人工智能将成为未来金融危机的核心，监管机构无法提前预知并应对。这是目前美国最重要和最有权力的监管者之一发出的信息。
Gensler 在麻省理工学院担任教授时撰写的一篇论文是了解这些风险以及监管机构能做多少努力来解决这些问题的宝贵资源。
总的来说，人工智能在金融市场中最明显的风险是由 AI 驱动的「黑盒子」交易算法失控，并同时大量卖出同样的东西，导致市场崩盘。
Gensler 写道：「实际上没有那么多人受过培训可以构建和管理这些模型，而且他们往往具有相似背景。」此外，在共同接受培训的人群中存在着强烈亲和性，所谓「学徒效应」。
模型同质化风险也可能由监管本身引起。如果监管机构对 AI 可以做什么、不能做什么进行控制，增加它们同时采取相同行动的风险，并增加公司选择使用少数几个无可指责的大型供应商提供的 AI 服务的可能性。
由于模型购买和销售的规则对人类来说是不透明且事先（甚至事后）无法知道的，监管机构很难阻止这种崩盘。
正如 Gensler 所写：「如果深度学习预测可以解释，那么它们一开始就不会被使用。」言外之意是：人工智能带来的风险比交易算法要深刻得多。
例如，许多人工智能致力于评估信用价值。由于其不透明性，很难确定它们是否以歧视方式评判人类。而且由于 AI 在以不可预测的方式不断演变，我们无法实时得知昨天没有种族主义倾向的 AI 今天是否已经产生了种族主义倾向。
「随着深度学习在金融领域更广泛采用，可能出现并将显著增加监管空白。」Gensler 写道。「我们得出结论认为深度学习可能会增加系统性风险。」
最简单、可能也是最有效的监管应对措施很可能就是增加金融机构（或其监管机构）使用人工智能工具时需要持有的资本量。
监管机构还可以要求所有由 AI 生成的结果经过更传统、可解释性更强的线性模型进行「嗅探测试」。公司可能会受到阻止或禁止采取无法从基本面广泛解释的行动。
监管机构可能能够减缓风险上升的速度，但很不可能能够阻止系统性风险上升。
Gensler 自己列出了一长串有助于应对问题的监管方法，但他明确表示，即使综合起来，「也不足以胜任当前任务」。
Gensler 在他的论文中指出，人工智能「对数据有永不满足的需求」。
风险在于人工智能模型最终会趋于具有相同的庞大训练数据集（例如 Common Crawl），共享该数据集可能存在的固有弱点。
「基于相同数据集构建的模型很可能生成高度相关的预测，呈现出群集和集体行为」，Gensler 写道。
对大量数据来源的需求往往导致垄断。Gensler 指出，洲际交易所通过收购 MERS、Ellie Mae 和 Simplifile，已经悄然占据了抵押数据业务的主导地位。
这些垄断企业随后可能成为威胁整个网络的「单点故障」，就像一家中型投资银行 Lehman Brothers 的失败引发了全球金融灾难。
即使最大的数据集也极不完整。「互联网使用数据、可穿戴设备数据、车载数据、GPS 和智能手机数据根本没有足够长的时间跨度来覆盖一个完整的金融周期」，Gensler 指出。
这可能会产生毁灭性后果，就像我们在金融危机中所看到的那样。
拥挤风险已经存在。「据推测，高频算法交易中的集体行为和拥挤部分导致了闪电崩盘」，Gensler 写道。随着交易者越来越多地转向人工智能，这个风险只会增加。
发展中经济体的公司最终可能会使用根本没有接受过国内数据训练的人工智能，这使得风险更大。
总而言之，人工智能不知道自己不知道的东西。这可能非常危险。