唐纳德•特朗普(Donald Trump)比较过分的言论之一是声称如果他当选总统，他将让美国变得安全。“今天困扰我们国家的犯罪和暴力将很快消失，”上月他在共和党全国代表大会上表示。“从2017年1月20日开始，美国将恢复安全。”
特朗普的说法将与几千年来的人类经验相背离，一些评论人士自然对此不予理睬，认为那不过是异想天开。在我们这个时代的格言中，这不过是谎言大量重复就变为真相的又一个例子。只要足够大声、大胆地说出某件事，此事便成为某种现实。
但是，就在政坛似乎在从非小说滑向小说的同时，科技世界似乎正反向运动。曾被认为异想天开的一线念头，正在迅速变为现实。
以犯罪为例。1956年，科幻小说家菲利普•迪克(Philip K. Dick)发表了短篇小说《少数派报告》(The Minority Report)，该书设想了一个犯罪被根除的社会。被称为“预测人”(precogs)的变异人，在计算机技术的辅助下，能够预测未来杀人犯的身份。预测人的报告会导致“即将犯罪”的嫌疑人遭逮捕，从而阻止谋杀行为的发生。
这部小说不但讲述了一个引人入胜的故事，而且是对预测能力、人类能动性以及有罪和无罪概念三者之间的紧张的精彩剖析。在其中一段对话中，预犯罪部(Precrime Division)负责人约翰•安德顿(John A Anderton)说：“实施犯罪本身是绝对的玄学。我们认为他们有罪。另一方面，他们声称自己无罪。在某种意义上，他们是无罪的。”他得出结论称：“在我们的社会里，我们没有重大的犯罪行为。但我们有一个拘留营，里面全是将会成为罪犯的人。”
迪克的想象极为离谱。不过，我们的社会或许正缓慢地走向他所描绘的未来。有些犯罪学者暗示，有朝一日，我们或许能够在人们出生时根据他们的环境和父母经历预测出，他们到了18岁时是否会犯罪。
在美国，有些法官在做出量刑和假释决定时，已经在使用计算机生成的风险分数。这些评分报告把个人纪录与关于以往犯罪行为模式和其他人口结构数据的大量资料进行对照。这类评分有望比任何法官都更为客观地预测个人对社会构成的风险。妥善设计的算法应当不容易受到有意识或潜意识偏见的影响。
但是，计算机模型的质量，取决于它们所用数据的质量。调查性新闻机构ProPublica的一项调查发现，一个使用历史数据来预测未来犯罪行为的软件程序，对黑人构成了系统化的歧视。
在另一起个案中，已被定罪的罪犯埃里克·卢米斯(Eric Loomis)近来对法官在量刑时使用的风险分数提出了挑战。他主张，他实际上是因为别人的罪行而受到了额外惩罚。上月，威斯康星州最高法院驳回了他的上诉，但承认，一些有关风险分数的研究“提出了一些问题，即风险分数是否超出比例地把少数族裔罪犯列为累犯风险更高”。
如果执法机构可以更全面地获取我们在网上共享的信息，这种争议或许只是公众论战的开始。得益于我们社会的数字化和机器学习技术，我们正变得日益擅长监视–并预测–人的行为。
我们的数据中包含有关个人精神状态、欲望和梦的私密纪录。跟实际指纹相比，这些数字“指纹”的保持时间要长得多、更能透露内情。难道警方不应更广泛地利用数字指纹去识别哪些人更有可能犯罪吗？
无论是好是坏，这类数据集是分散的，而执法机构在能够获取什么数据方面受到严格限制。但是，随着公众日益呼吁采取更强力措施回应恐怖主义暴行，危险在于，预测技术将稳步地、悄悄地变得更具侵入性。
如果使用得当，这类数据可以引领我们进入一个增强智能的时代，技术会帮我们做出更好的决定、保证我们的安全。如果使用不当，这可能造就一个敌托邦式的监视国家，会基于算法(而不是行为)把人们投入监狱。最重要的问题是，由谁来决定这类技术的使用？以及我们拥有哪些挑战它的权利？(转载自FT中文网)
