官方网站-首页
【导语】在当今数字化时代，人工智能（AI）技术正迅速融入我们的生活，从智能手机到金融、医疗、交通等多个领域。然而，随着AI应用的普及，其安全问题也日益受到关注。在第二十七届中国科协年会上，“基于密码学视角的人工智能安全新理论和防护体系”成为热议话题。本文将深入探讨这一交叉领域，揭示如何用密码学的“锁”来守护人工智能的“智慧”，确保技术进步的同时，也保障数字安全。
在当今数字化浪潮中，人工智能(AI)技术正以前所未有的速度渗透到我们生活的方方面面——从智能手机的人脸识别到金融领域的信用评估，从医疗(liáo)诊(zhěn)断(duàn)到(dào)自(zì)动驾驶。然而，随着AI应用的普及，其安全问题也日益凸显。在第二十七届中国科协年会发布的十大前沿科学问题中，“基于密码学视角的人工智能安全新理论和防护体系”这一议题格外引人注目。本文将带您探索这一交叉领域的奥秘，了解如何用密码学的“锁”来守护人工智能的“智慧”。
图源：北京日报
AI的“阿喀琉斯之踵”
即使是再聪明的AI，也有自己的软肋。黑客们已经找到了几种攻击AI的“窍门”：
1.视觉欺骗：别小看几块不起眼的小贴纸，它们足以让AI“睁眼瞎”。2023年，研究人员在自动驾驶测试中发现，只需在交通标志上贴几个特定图案，AI系统就会把“停车”误认成“限速”，这在高速行驶中可不是小问题。这类“对抗样本”就像是给AI戴上了一副错位眼镜，人眼一看分明是个“STOP”，它却自信满满地读成别的字。想象一下，一辆车因为“看错路牌”误操作，后果不堪设想。
2.模型窃取：别以为人(rén)工智能的“大脑”只有开发者才能碰到。2023年，有研究团队展示了如何通过不断向像GPT这样的语言模型提问(wèn)，然(rán)后(hòu)记(jì)录(lù)它(tā)的(de)回(huí)答(dá)，最(zuì)后(hòu)竟(jìng)然(rán)复(fù)刻(kè)出(chū)了(le)一(yī)个(gè)山(shān)寨(zhài)版(bǎn)的(de)AI模(mó)型(xíng)。这(zhè)种(zhǒng)“黑(hēi)盒(hé)克(kè)隆(lóng)”就(jiù)像(xiàng)不(bù)停(tíng)问(wèn)大(dà)厨(chú)“你(nǐ)这(zhè)菜(cài)怎(zěn)么(me)做(zuò)”，问着问着，把秘方和做法都扒了个干净。当AI越来越值钱，它的“被盗风险”也就成了现实问题。
3.数据投毒：AI虽然聪明，却不懂分辨“好坏朋友”。2024年，研(yán)究人员在开源网站上传了不少“带毒”的代码——看上去没毛病，其实暗藏漏洞。而一些AI编程助手在学习这些代码后，把错误逻辑原封不动推荐给用户，相当于“把坑当宝送出去”。这就像你教学生做题，结果书上本身就印错了，学生反而越学越(yuè)偏(piān)，AI也(yě)是(shì)一(yī)样(yàng)，“喂(wèi)什(shén)么(me)就(jiù)学(xué)什(shén)么(me)”，学(xué)坏(huài)了(le)还(hái)不(bù)自(zì)知(zhī)。
密码学：AI的防弹衣
传统密码学就像给数据上锁的保险箱，而现代密码学正在为AI打造更智能的防护：
1.同态加密：让AI能在不解密的情况下处理加密数据。好比戴着墨镜读书——虽然看不清文字，但依然能理解内容。医疗AI用这种方法分析患者数据时，连医生都看不到原始病历。
2.安全多方计算：多家医院可以共同训练诊断AI，但谁(shuí)都(dōu)无(wú)法(fǎ)看(kàn)到(dào)其(qí)他(tā)医(yī)院(yuàn)的(de)具(jù)体(tǐ)病(bìng)例(lì)。就(jiù)像(xiàng)几(jǐ)个(gè)厨(chú)师(shī)合(hé)作(zuò)开(kāi)发(fā)新菜谱，但各(gè)自(zì)保(bǎo)留(liú)自(zì)己(jǐ)的(de)秘(mì)方(fāng)。
3.差(chà)分(fēn)隐(yǐn)私(sī)：在(zài)数(shù)据(jù)中(zhōng)加(jiā)入(rù)精(jīng)心(xīn)计(jì)算(suàn)的(de)“噪(zào)声(shēng)”。就(jiù)像(xiàng)在(zài)人(rén)群(qún)中(zhōng)稍(shāo)作(zuò)伪(wěi)装(zhuāng)，既(jì)不(bù)影(yǐng)响(xiǎng)整(zhěng)体(tǐ)统(tǒng)计(jì)，又(yòu)保(bǎo)护(hù)了个人身份。苹果手机就用这种方法收集用户输入习惯，改进键盘预测功能。
其实AI防护已经悄悄融入了日常生活的方方面面：刷脸支付时，你的面部特征会被转换成加密代码存储，从根源上降低信息泄露风险；智能音箱在听取“唤醒词”时，其他对话内容会进行隐私处理，避免无关信息被记录；推荐系统在分析你的购物记录时，使用的是去身份化的群体数据，既保证推荐精准度，又守护了个人隐私边界。
图源：Pixabay
未来挑战：既要聪明，又要安全
目前AI安全防护面临几个现实问题：
1.效率代价：加密保护会让AI运算速度变慢，就像穿着防弹衣跑步肯定不如穿运动服轻快。
2.标准缺失：AI安全防护还缺乏像"密码强度提示"那样直观的标准。
3.攻防竞赛：黑客手段不断升级，防护措施也要持续进化。
图源：Pixabay
未来的AI安全体系，也许能够呈现出更智能、更坚固、更友好的形态：它可能会进化出类似生物的“免疫系统”，能凭借自主学习能力精准识别潜在威胁，并迅速启动防御机制抵御各类攻击；在加密技术层面，“量子加密”有望成为标配——这种基于量子力学原理的加密方式，其安全性将达到全新维度，即便是算力惊人的量子计算机也难以破解，为数据筑起一道“无懈可击的防线”；而“透明防护”的实现，则会让安全机制与用户体验达成完美平衡——它在后台默默守护隐私的同时，完全不干扰正常使(shǐ)用(yòng)流(liú)程(chéng)，就(jiù)像(xiàng)一(yī)层(céng)无(wú)形(xíng)的(de)“安(ān)全防(fáng)护(hù)罩(zhào)”，让(ràng)人(rén)们(men)在(zài)享(xiǎng)受(shòu)AI便(biàn)利(lì)时(shí)毫(háo)无(wú)感(gǎn)知(zhī)却(què)又(yòu)倍(bèi)感(gǎn)安(ān)心(xīn)。
正(zhèng)如(rú)第(dì)二(èr)十(shí)七(qī)届(jiè)中(zhōng)国科协年会上所强调的，“基于密码学视角的人工智能安全新理论和防护体系”是关乎国家数字安全的重要前沿课题。在这个AI无处不在的时代，密码学不再只是保护数据传输的工具，更成为守护智能系统核心的盾牌。通过密码学与AI的深度融合，我们正致力于构建既智能又安全的新一代数字基础设施，让技术进步真正造福人类社会，而不带来新的风险与威胁。这场密码学与人工智能的对话，才刚刚开始。
供稿单位：重庆理工大学计算机科学与工程学院
作者：重庆理工大学 冯嘉宇
审核专家：倪伟
声明：除原创内容及特别说明之外，部分图片来源网络，非商业用途，仅作为科普传播素材，版权归原作者所有，若有侵权，请联系删除。
