首尔科学综合大学院大学-aSSIST【中文官网】
010-62510083
  
首尔科学综合大学院大学教授文章 | 受控的幻觉和伦理-吴太演教授

    640

        在最近阅读的脑科学家阿尼赛斯的《BeingYou》一书中,接触到了关于知觉的有趣事实,并思考了与此相关的伦理。一般认为,我们的大脑为了感知外部事物,通过各种感觉器官接受的刺激信息来感知。即,当看到桌子上的叫做杯子的物体时,通过视神经进行光的刺激,通过各阶层的神经元收集各末端视神经的刺激,从而感知杯子的"Bottom-up"概念。与此相比,大脑科学已经对外部事物做出了假设,通过刺激采用最合理的假设的"TopDown"方式感知外部环境。看旁边的影子时,用Bottom-up方式单纯地用直觉判断黑色轮廓,但一般情况下,看影子时很有可能认为是人的脸。这是因为感知是通过各种经验预先对刺激的结果做出假设,并通过采用最合理的(或可靠的)假设的过程进行的。

        如果用最近流行的AI来表现的话,不是UnsupervisedLearning,而是通过标签数据的深度学习,进行新的输入值Classification才是知觉的理论。谁都有过因为找不到眼前的钥匙、钱包而被旁边家人指责的经历。当有东西本不应该在那里时,我们很可能不会好好感知阿尼塞斯在此基础上将知觉命名为"受控幻觉"。

        根据阿尼塞斯的文章,人类的信息处理是按照贝叶斯程序进行的,换句话说,通过事前概率预测最可靠的事后概率。即事前信息,即经验决定信息处理结果。可能是因为这里出现了"年龄越大越固执"这句话。因为如果我们的大脑根据经验感知环境,最终经验越多,必然会产生特定方向的便利。可以说,极端的人只看自己想看的东西,只听自己想听的东西。

        最近媒体通过个性化推荐算法提供读者最喜欢的内容。换句话说,这意味着向因受控幻觉而迟到的人类提供更个性化的信息。这最终会导致偏向性的学习,导致更加极端的偏向性思考。在20世纪预测21世纪时,随着信息交流的增加,世界将更加开放,这难道不是极端主义逐渐成为主要意识形态的原因之一吗?

        数学证明,如果人群有便利(Bias),即使算法做得再好,也没有办法完全公正地进行分类(Classification)。只有在人群完全平等分布的情况下,才有可能公平地分类,而不会受到优惠待遇的群体。从这个角度来看,我认为拥有公正、开放的心态的方法不是为了努力拥有公正、开放的心态,而是通过体验各种观点来减少经验的便利。虽然这是非常明显的事情,但是接触很多领域的知识,阅读多种观点的文章,与不同的人进行讨论,这还是摆脱偏见和固执的方法。

        我今天删除了Instagram软件。

         640

        首尔科大吴太演教授

        首尔科大现已开始接受硕博申请材料递交,请联系招生老师索要最新申请材料。如有申请相关疑问,请与首尔科学综合大学院大学中国办事处招生老师取得联系。

        想了解更多首尔科大考试资讯,请访问:首尔科学综合大学院大学官网

        本文来源:www.assist-cn.com