情节:在不久的将来,政府的目标是用人工智能软件取代法官,以期有效地实现司法系统的自动化和去政治化。著名法官卡门·科斯塔应邀对这一新程序进行评估。然而,当该软件的创建者被发现死亡时,她意识到自己的生命处于危险之中,她将不得不与国家最高层的强大利益作斗争。
1.电车难题:公平还是效率
在影片中,森特人工智能公司创始人Alicia车祸身亡。起初的解释是,因为AI系统预测到前方有一辆小轿车,里面坐有母女两人。
系统认为,既然两辆车相撞是必然。那么最优结果是尽可能地减少损失。于是,自动驾驶系统选择了保护人数更多的那辆车。而另一辆车里的Alicia则当场死亡,没有任何选择的余地。
经典的哲学命题“电车难题”与电影的情节类似。本质上来看,两者都是公平与效率的矛盾。影片中,无人驾驶的一系列决策均指向效率:保全人数最多的车,放弃概率低的一方,保护尊贵的会员,保护司机而不是乘客,或路面的动物等等……
如此一来,这公平吗?当事人无法选择自己的命运,只能被动地接受所谓数据,即算法的“精准”决策。当数据被权力精英所掌控,普通人面对带有偏见的数据,这何尝不是一种新的“剥削”。
而电影也恰恰印证了这点。Alicia并非车祸身亡,她的车系统被竞争对手动了手脚,她本可以不死的。于是,不透明的算法成为了新的杀人手段。
2.算法的影响力与导向性
某种程度上,算法并不是客观的。正如在大选前电子屏清一色的“vote yes”(如果你投了no会被当作异类);司法决策系统也是不公开的,只会提供最终的概率值。
最重要的是,你永远无法知道这个数值是如何产生,如何计算的,这些测试数据既不公开也不透明。面对“算法黑箱”,我们不知道真实性,只能看到结果,而后被动接受。
由于人们长时间依赖智能AI,算法推荐,以及原始的从众心态,人类可能会潜移默化地被算法影响,从而改变决策,在不知不觉中丧失主体性。
在这情境下,区块链,Web3等新兴产业随之涌现。区块链技术可以提供去中心化、透明和安全的信息存储和传输方式;Web3 则强调用户拥有和控制自己的数据,这有助于自主地做出决策,也更少地被算法影响。
但是,这些技术仍然面临着诸多问题。例如,Web3 技术标准和监管如何判定,以及数据隐私和安全问题等。另外,这些民办产业如何保证使用者的权益不被侵犯,创办者不会卷钱跑路。
因此,需要加强相关的法律和监管框架。但至少,目前来说,我还是对新技术和新产业持有保留态度。
3.无人驾驶的伦理问题
正如前文提到的,当发生车祸时,应优先保护哪一方群体,该如何做出最正确的决策?
在影片中,森特研发人员提到,他们的无人车是根据过往的经验进行决策,这些海量的道路数据,能够帮助驾驶员最大化地规避风险。
但这有一个致命的缺点,自动驾驶是根据过往决策,无法与时俱进。它永远指向过去。当出现新问题时,第一批人便是数据的小白鼠。可又有谁愿意当小白鼠呢?
影片中,其中一位创始人将这一操作称作“算法面前,人人平等。”
但他使用经济和政治上的权力,找到算法的漏洞,篡改了算法,害死了他的同事。
所以,司法系统必须独立于政治经济系统,而不是由企业或跨国公司接管,这点毋庸置疑。否则,全民福祉可能成为少数人的利益,算法的不透明性也将促成害人于无形的世界。
电影的最后给观众留下了一个悬念。女主卡门发现新型AI的推出过程并非签署一个文件那么简单,她要面对的,是一个庞大而复杂的高层的利益组织。
现实往往比电影更为复杂。在科技飞速发展的时代,如何确保司法系统的独立性和公正性,成为了一个亟待解决的问题。我们需要不断思考和探索,寻找一种平衡,既能充分发挥科技的优势,又能防止权力的滥用。只有这样,我们才能真正实现“算法面前,人人平等”的目标,让科技为人类社会的发展带来更多的福祉。