AI最新算法助力机器学习抵御可能遇到的干扰

来源:网络

点击:25

A+ A-

所属频道:新闻中心

关键词:人工智能 机器学习

    机器学习模型受到攻击将产生严重的后果,但如果对这一情形提前预防呢?就像人类针对即将到来的病毒去接种疫苗一样。据澳大利亚联邦科学与工业研究组织(CSIRO)官方网站消息,该机构的一个研究团队,日前开发了一套人工智能(AI)最新算法,可帮助机器学习抵御可能遇到的干扰。


    机器学习是人工智能的核心,也是使计算机具有智能的根本途径。机器学习主旨是让计算机去模拟或实现人类的学习行为,以获取新的知识或技能,并重新组织已有的知识结构,使之不断改善自身的性能。


    机器学习虽然可以在大数据训练中学到正确的工作方法,但它也很容易受到恶意干扰。通常攻击者是通过输入恶意数据来“欺骗”机器学习模型,导致其出现严重故障。


    此次,开发出新算法的研究团队——“Data61”机器学习小组领导者理查德·诺克表示,攻击者会在进行图像识别时,在图像上添加一层干扰波,达到“欺骗”的目的,从而让机器学习模型产生错误的图像分类。


    诺克及其团队成员研发的新算法,通过一种类似疫苗接种的思路,可以帮助机器学习“修炼”出抗干扰能力。这是针对机器学习模型打造的防干扰训练,譬如,在图片识别领域,该算法能够对图片集合进行微小的修改或使其失真,激发出机器学习模型“领会”到越来越强的抗干扰能力,并形成相关的自我抗干扰训练模型。


    经过此类小规模的失真训练后,最终的抗干扰训练模型将更加强大,当真正的攻击到来之时,机器学习模型将具备“免疫”功能。


    用小伎俩干扰机器对图像的识别,这种手段已经应用在网络黑产中。人眼看起来并无明显区别的图片,覆上一层专门针对机器的干扰波,就能让机器的判断大失水准。所谓接种疫苗,其实也就是“以毒攻毒”,让机器先见识已经被微小修改的图片,并在训练中自我学习,从而最终能识破这层恶意干扰,揭开图片的庐山真面目。机器的学习功能是强大的,教会它应对方法,它便能自我完善。但攻击与防御总是相伴相生,这是一场没有尽头的技术博弈。


    三年后机器学习将成为现实


    在中国,目前有三分之一的会计师认为人工智能很大程度上是一种过度关注,而54%的会计师则表示,三年后人工智能将成为现实。

    这些研究结果源于ACCA(特许公认会计师公会)发布的最新报告《机器学习:科学向左,科幻向右》。该报告着眼于新技术的发展如何为财会行业带来巨大潜力,主要侧重于机器学习,即计算机“学习”的能力,以及通过对大量数据集进行分析从而做出决策或预测的能力。


    该报告作者、ACCA商业洞察主管魏雅安(Narayanan Vaidyanathan)表示:“机器学习是会计师发展的一个关键领域。展望未来,了解机器学习的价值和益处以及由此带来的道德挑战,这些都是至关重要的。不过所有一切的出发点必须是正当业务需求,并清楚地了解机器学习能为组织带来什么。”


    “人工智能和机器学习可以为会计师的工作增加价值,比如为商业决策提供有价值的见解、监测欺诈、评估风险、了解复杂的税务处理以及更有效的非财务报告。因此财会行业需要了解人工智能和机器学习是如何运行的,尤其是考虑到机器学习会影响到我们对这些系统决策的信任度。”


    ACCA中国事务总监于翔天表示:“近年来,中国在以制造业为代表的多个领域内大力投入发展技术能力,科技蓬勃发展的状况令人瞩目。但提到人工智能,会计师正试图透过表象来认清现实。与所有技术发展一样,能力越大责任也越大。就机器学习而言,如何解决其引发的道德问题也是亟待考量的。通过算法做出的决策是否会导致道德上的妥协,比如为机器提供的数据集本身可能存在偏见,以及所做决策的责任归属等问题,这些都需要会计师进行考量和管理。”


    调研中来自中国的样本显示,42%的企业没有在其组织中采用机器学习的计划,20%的企业尚未决定是否采用机器学习。只有19%的企业正在进行初步讨论或概念探索,而全球这一比例为24%。4%的企业处于领先的测试阶段,打算在三至六个月后“上线”,5%的企业处于处理实时数据的全面生产模式。


    对中国来说,57%的企业表示采用机器学习的主要障碍是缺乏熟练的员工来负责这项工作,55%的企业是出于成本考量。27%的企业认为使用机器学习没有明显的收益,而10%的企业则尚未做出决定。


    报告强调,至少所有财会专业人士都应了解人工智能的发展进程,并留意到正在发展的技术能力可能对各自的角色产生交叉影响。为了迎接数字化未来的到来,ACCA已经在其专业资格中融入了一系列数字化议题,同时在多门考试中提高了数字化内容的比例,并确保数字化内容融入到会员的持续职业发展之中。

    于翔天总结道:“机器学习成为财会行业的主流,对中国乃至全球来说都是一个巨大的机遇。在该领域,专业会计师有机会培养对新兴技术的核心理解力,在培养自身数字技能的同时培养沟通能力,以便他们能够更好地阐释成果。这样他们就能真正受益于机器学习等技术能力,通过对海量数据进行智能分析来为业务提供支持。”




    (审核编辑: 林静)