文丨拾贝 · 主播丨涂山
如果说思想是人类的火花，那么科技就是照亮世界的火把。
求知是人类的天性。人类作为认知主体不断打破着自己的认知边界，继而不断发现和创造新的客体对象，其中科学的发现和技术的发明就是这些对象中尤其让人惊艳和痴迷之所在。
科技带领人类摆脱了身体的自然局限，让人类可以上天揽月可以下海深潜；科技让人类的感官功能极大延展，可以远眺亿光年之遥也可以近观分子之微。
同时，人类也是理性的主体，理性的宝贵在于：在不满中追求，在满足中反思。
正如人类反思到这样一个事实：人类创造了很多对象，但对于人类所创造的对象而言，人本身也是被创造对象的对象，因此，人类不可避免的受到来自于被创造对象的限制甚至反制。
这听上去似乎有些作茧自缚，然而对科技这类对象而言，这种反思极其重要。要知道，从核发现到核应用再到核泄漏，不过是短短的一百年。贪婪、傲慢和轻率等等让科技从人类手中失控的因素太多太多。在今天这种现象可能更容易被切身感受，谁能否认移动通信技术的发明时至今日已令相当一部分人成为“手机控”？
正如硬币的两面，科技一面看上去很美，另一面看上去阴暗。作为人类，不必因噎废食，但必须意识到“抑恶“是”扬善”的前提，没有“有所不为”的预设，“扬善”就是空谈。
01
当今与未来，科技面对“不可为”的界限越发隐蔽但同时又越发攸关。
在信息和网络化的今天，大数据和算法拥有越来越多的话语权。《人类简史》作者尤瓦尔·赫拉利认为：数据将取代以往的宗教成为人类未来的信仰。他这样说：“别听你内心的算法，听微软、谷歌、苹果的，它们了解你的程度远远超过你自己了解你的程度。”
抛开这位人类历史学家对人类前途命运的担忧，今天的数据与算法的确已经把很多人的生活裹挟其中。我们在各种终端的浏览记录、购物清单、互动内容，智能穿戴设备所记录的运动数据、生理指标、体验感受等等都悄悄转化为数据流入大数据的海洋。这些数据会与算法通力协作，向我们推送偏好的内容、易产生购买冲动的商品、量身打造的专属服务等等。
因此，“为用户创造愉悦体验”的预设下，让用户浸入和沉迷变得更容易，偏好推荐使得接触的内容更同质化。于是你偶尔在某终端搜了一个关键词，大堆类似内容就前仆后继而来。这就好比一个健康的食谱本应多样化并符合你的营养需求，但这位厨师只提供你爱吃的单一饮食，因为这样迎合了你的偏好。
“迎合”与“利益”是今天网络科技必须要面对的诱惑，这种诱惑在与伦理和道德底线碰触时有时会轻易将后者击穿。从“N号房”到“暗网”，它们盈利很成功、体验令用户满意，然而击穿底线的丑陋已使其彻底丧失科技之美，沦为伤害社会的利器。
当科技一味追求迭代、升级、突破和变现，而放松了对道德标准的维护和人性底线的坚守，那么科技的阴暗面将不可避免占据上风。
02
未来，人工智能的发展可能将产生完全不同的社会图景。
想象你坐在一辆无人驾驶的行驶汽车上，前方突然出现一名横穿马路的孩子，如果紧急刹车可能会翻车造成车主伤害，撞上去则相对安全但孩子生死难卜，刹车还是撞上去？正常情况下程序已预设，接下来将自动执行。那么程序该如何预设？是否无条件优先保证车主安全？要承担后果的是人还是程序？
这与传统的电车难题是否颇为相似又略有不同？相似是同要面临道德取舍，不同是新场景下你是主体、客体还是旁观的第三方，跟传统情景相比更难说清。
强人工智能还给人类带来对将来的深深恐惧：无用阶级是否会产生？世界是否将掌握在少数超级人类手中？人类是否会被取代？
从《终结者》里“天网”控制地球将人类生存空间逼到地下，到《西部世界》里“接待员”意识觉醒开始反抗并踏上去往现实人类世界的征途，人类的对科技的叩问也许早已开始：
在人工智能二分心智的哲理探讨之外，人类作为“造物者”是否够格承担上帝的角色？在未来科技面前，人类如何打破自我意识的界限，在自由意志和人性中找到平衡点？
03
在希腊德尔斐神庙刻有两行神谕：认识你自己，凡事勿过度。认知到“可为”与“不可为”，意识到底线在何处，人类理性才能创造出最大化的美好。
科技向善不能靠结果来把控，而是要前置到起点。对于今天的大数据和网络科技而言，就是算法/程序该如何设计；对于人工智能和生物技术而言，就是事先划清哪些领域应止步。
科技的根本目标是增加全人类的福祉，如果科技的应用只是让很小一部分人受益，或者有违人类伦理，那么这种科技就缺乏人性的土壤。现代生物技术甚至已能改写人类的基因密码，以期望通过基因编辑生出对某病毒先天免疫的婴儿，这貌似技术上的进步，实则是对科研和医学伦理道德底线的逾越。因为基因编辑的婴儿从出生之前就丧失了选择正常人生的权利，一生成为试验者观测的小白鼠，且终身乃至在后代繁衍上存在巨大未知隐患。
科技无论前行多远，依然要在底线前止步，才能回归到人性之美。
科技要有“反自我”的胸襟和智慧。科技如果始终以“自我”为中心，以抢占制高点或商业变现为目标，那么在巨大资本的加持下，极易开出畸形的花朵。
奥本海默被称为“原子弹之父”。在奥本海默看来，科学的目的不仅仅在于求真、探索自然奥秘，也在于改善人们生活和增进人类福祉。而当原子弹爆炸展现末日般情景时，显然与目的相悖。因此，奥本海默陷入沉重自责，自称“双手沾满了鲜血”，并在后来反对试制氢弹并积极致力于原子能的国际控制和和平利用。
而在今天，科技和用户更近使得这种内省和自我约束更加必要。于是，一些做法应用而生，比如手机的“屏幕使用时间”功能，由用户根据自己的屏幕占用时间来合理规划手机的使用时长。
再比如“算法正义联盟”，目标是消除“被量身打造”的算法偏见所造成的认知差异而加剧的群体极化和数字鸿沟。这些积极的行动让我们看到了希望。
当科技不再被功利完全牵引，向人类的福祉不断倾斜就是向善。
科技向善，有所不为最终在于人的选择，科技本身无法自动给出选项。这不仅是创造者的责任，也是全体使用者的责任。没有人是一座孤岛，受益或者受害均休戚与共。只要人类共同追求“善”的科技，科技向善才能永恒实现。
·end·
图片来源于网络，如有侵权，请联系！
文章版权归本平台所有 转载请联系“正心正举”
可能你还喜欢看
正心正举征稿活动火热进行中
正心正举 与智者同行
正心正举
健康与发展公益讲堂开讲啦
