鸿蒙文学网

手机浏览器扫描二维码访问

17 第 17 章（第1页）

《谢谢AI送我的末日体验》最快更新[630kan.cc]

“请起立。”

法庭助理宣布。

“今天2151年，1月10日，受理案件编号38166-21510110-001，现在本院法官已上座，申诉程序开始，请大家就坐。”

法官看着我们这边问：“今天这个是要申诉什么？”

我站起来说：“我的名字叫星野南，来自管治方块38166的森蓝村，今日想要申诉的事项，是AI系统判定森蓝村无法有效救援的决策。”

法官问：“这个决策有什么问题？”

我继续说：“我们要求AI解释，无法有效救援的定义，AI的说法是当成功救出生命体的概率过低，就是评定为无法有效救援。

第一，现在站在这里的我们两个人，就是还在生存的生命体，第二，我们在城里还有两个人，现在在医院，以及在森蓝村里，34个人，依然存活，这两点都说明了AI算法有问题。”

法官跟AI确认对于森蓝村的决策，AI确认决策跟我说的是一致，然后法官再让AI，给大家多一些背景，关于森蓝村的地震情况。

“2151年1月1日14时38分，管治方块38166附近海底（北纬37.5度，东经137.2度）发生7.6级地震，并引发海啸。

当地电力和自来水供应，因设备受破坏而中断，当日下午开始一直下雪，温度零下10度，能见度少于500米，按照天气数据推算，救援无人机无法在该区作业；至于水路，因为海啸警告，水路亦不适宜进行救援；唯一的陆路是通往森蓝村的吊桥，吊桥在地震时已经折断，因此无法实施救援；森蓝村总人口36人，加上外地游客2人，受灾人数总共38人，这是暂时所知道的情况，报告完毕。”

法官问：“没有最近的情况吗？这个听下来更像地震当日的情况。”

AI回应：“是的，这个是地震当日的情况，这已经是系统内最新的消息。”

法官再问：“为什么没有任何后续的更新？”

AI回应：“因为当地地震之后是断电状态，而且温度和能见度过低，无法派出无人机拍摄当地情况。”

法官再问：“虽然无人机不行，没有其他方法吗？”

AI回应：“因为断电加上低温，其他设备同样不可行。”

法官点点头，看着我们说：“如果连拍摄设备都无法到达该区的话，完全无法得知当地情况，的确很难实施救援，AI的决策是没有问题的。”

我瞪大了眼睛看着法官说：“不就是因为有灾情，才会断电断水了，我们才需要救援的吗？大家理解这个先后顺序吗？有水有电的话，我们也不需要走100公里路，来这里呼叫救援啊。

如果设备只能在没灾情的时候用，这是不是说明了，AI服务人类的方式并不完善？”

法庭里的大家纷纷议论起来，法官叫大家安静。

静儿爸也拍一拍我，提醒我冷静，和记得又子小姐说的关键。

法官想了一下，然后问AI：“AI你对于刚刚星野南的言论有什么回应？”

AI回应：“出现断电断水的情况，参考历史数据发现这种情况属于极少数，所以绝大部分情况之下，AI可以全面的服务人类。”

听完我更生气了，追着问：“所以AI决定放弃这些被极少概率发生的事情而影响的人命？请回答我是与否。”

AI回应：“是。”

“言下之意就是AI系统容许AI放弃人类生命？请回答我是与否。”

我再问。