智能武器不会,它们遇到这种情况后,就不太会考虑周围的人群,而是在确认目标后直接打击,这样一来,将要造成大量的无辜民众伤亡,从而引发严重影响。
而我們的自主作战系统则是解决了这个问题,它们会拥有与飞行员一样的思考问题方式和能力。遇到这样的情况下,会进行冷静分析,并做出正确的决定。”
那么什么是正确的决定?有人打断他的话问道。
听到这个问题,吴浩微微一笑道:“我们这款无人机的自主作战系统它最大任务就是完成指挥官所下达的任何任务,只不过它们会选择自己计算得出的合理办法来执行这些任务。
至于什么是合理的办法,这就要看指挥官自身的意志以及任务的重要程度了。
还是刚才的那个例子,如果对方是我们追踪很久了的要犯或者重要目标的话,之前那么长时间的追踪都没有成功,现在终于追踪到了,只不过对方的车队是在闹市中,周围有很多人群。
我们清楚,一旦错过了这个机会,那么这个要犯或者重要目标将会再次失踪,因此这么重要的机会到底要不要抓住。如果攻击的话,将会造成众多民众伤亡,如果不攻击就这样放对方走的话,那么后面很可能就很难在追踪到了。
所以,这个时候就需要指挥官来进行抉择了,看看到底选择那个。
当然了,无人机的自主作战系统也可以来进行这样的抉择,只不过要看后方指挥控制中心所设置的权限,如果人群比目标重要,那当然以人群安全为主,如果目标是第一要素,是首要目标,那么……”
说道这里,吴浩停了下来。虽然他的话没有说完,但是大家也都清楚了他话中的意思。的确,这种事情不好明说,但却是很多时候都需要作出这样一个选择,权衡轻重,利弊。这个别说是人工智能了,就是人类中的智者,伟人,也很难处理的好。
而为了避免无人机的自主作战系统出现运算决策漏洞,并可能出现安全风险,所以这方面仍然需要控制人员来设置安全围栏。所谓安全围栏,并不是现实中的,更不是系统中的,而是思维逻辑栅栏,换句话来说就是安全防火墙。
不管是无人机的智能控制系统,还是自主作战系统,它们的运算逻辑,以及思考决断都不能突破这个安全围栏,以确保这款凫徯智能攻击无人机的绝对可靠性和安全性。
要不然的话,很可能就会真的搞成和电影《绝密飞行》中那架智能无人机一样的情况了,一架不受控,并且自主行动的装备哪怕性能再好,也不堪重用。
而且现实中,很多事情甚至很多任务都不能够用对错来表示,很多事情也已经超越了对错这个层面,上升到了更高的位置之上。
就像是那句电影名言,小孩子才分对错,成年人只分利弊。人如此,那么更高的层面也自然如此了。就拿前面那个例子来说,误伤无辜人群自然不对,可是消灭了重要目标,罪犯,它所带来的收益绝对会比这些无辜人群的价值更高。
那么在这个时候,又该如何抉择呢,这已经不再是简单的对错,利益多寡问题了,而是上升到了哲学问题。