外滩大会参会规模创新高，人们都在关注如何 防止AI作恶

　　9月7日(rì)，2024 Inclusion·外滩大会正式闭幕。事实上，这(zhè)一天下午，距(jù)离(lí)大会闭幕几个小时前，仍有观众(zhòng)在排队入场(chǎng)。官方数据显示，本届大会共
吸引(yǐn)了5.2万人现场(chǎng)参会，无论(lùn)是(shì)参会规模还是国际嘉宾的数(shù)量，均创下了历(lì)史新高。除了年轻人，记者(zhě)注意(yì)到，观众队伍中(zhōng)还有不少老人、小孩。外滩大会参会规模创新高，人们都在关注如何防止AI作恶

　　本届外滩(tān)大会以“科技
·创造可持续未来”为(wèi)主题，包括36场开放见解论坛、10多场创新(xīn)者舞(wǔ)台、2场AI创新(xīn)赛事、1场10000平方(fāng)米的展览以及1场绿色生活节和1场科技(jì)人才招聘会。据统计，三(sān)天时间内，有30余项AI新成果(guǒ)在本届外滩大会(huì)发布，包括蚂蚁AI生活管家“支小宝”、AI金融管家“蚂小财”，AI健康管家等。

　　10000平方米(mǐ)的(de)展览场地汇集了众多企业
参展，记者观(guān)察到(dào)，相比往(wǎng)年，准备各类装备体验、互动的厂商越来越(yuè)多了(le)，许多展台 前，观众为(wèi)参(cān)与体验排起长(zhǎng)队(duì)。重视人文性，成为本届外(wài)滩大会的一大特点。除了开(kāi)幕式上24岁的(de)独臂(bì)男孩周键借智能仿生(shēng)手演奏钢琴的动人瞬间，在外滩大会的(de)展区，借(jiè)助设备(bèi)观(guān)众(zhòng)可以体验将脑电波以花朵的形式可视化，让瞬间(jiān)的情绪形成纪念(niàn)。还有可实现“拥抱传递”的设备，穿戴(dài)上内嵌人造肌肉纤维的特制背心，当另一个人拥抱装有压力传感器的模型时，体验者便能感受到模(mó)拟其(qí)声 控、触觉反馈和温度调节等多种感官元(yuán)素的“远程拥抱(bào)”。

　　在这一年的外滩大会(huì)上，如何让“技术向善”的讨论和研(yán)发更加被业界重视。

　　AI医(yī)疗受关注

　　为期三天的展览(lǎn)中(zhōng)，AI医(yī)疗的相关(guān)产(chǎn)品、企业展(zhǎn)台总有着最多的人流量，“爸妈(mā)记忆力下降了怎么办？”“AI如何(hé)辅助癌症筛查？”这些问题
让不少观众不自觉就迈入了
相关展区，不断有(yǒu)老人加入(rù)脑健康检(jiǎn)测，有年轻人加入脑(nǎo)电波的“画图”。

　　“和(hé)去年相比(bǐ)，今年外(wài)滩大会AI人工智能的份(fèn)额感觉更高了，而且不是像之(zhī)前傻乎乎的那种(zhǒng)，今年的很多应用是真的(de)有用的，明显能感觉(jué)到算(suàn)法提升了很(hěn)多，比如说面部识别功能或者语音交(jiāo)互(hù)功能，都感觉上升了一(yī)个档次，效果变好了，所以(yǐ)大家体验的热情也高。”一位参会的展商对记者表示。

　　来不及(jí)喝口水，达摩院AI医疗展台的工作人员就迎来了(le)下一位咨询的观众，今年的外滩大会上，达
摩(mó)院医疗AI实验室展出(chū)了其AI医学影像分析产(chǎn)品，借助(zhù)AI技(jì)术，这项产品能够从平扫CT中进行胰腺癌、食 管癌、肠癌、胃癌等八大癌症及(jí)一系列慢(màn)性病的筛查，吸引了不少观众。

　　展台(tái)的工作(zuò)人员告诉记者，通(tōng)过AI识(shí)别，这项产品能够在肝(gān)癌、肺癌等癌症筛查中达到(dào)90%以上的准确率，提(tí)升医(yī)生的(de)工(gōng)作效率，补足一些
医疗资源
不(bù)均 衡带来的问题(tí)。

　　“其实(shí)这(zhè)项技术主要是面向B端的，为医生服务，客户更多是医院、体验机外滩大会参会规模创新高，人们都在关注如何防止AI作恶构、保(bǎo)险(xiǎn)公(gōng)司、公益组织(zhī)以及软件(jiàn)厂商之类的，但这两天很多个人也非常感兴(xīng)趣。”上述工作人员表示。尽管许 多AI医疗产品并未直接面向C端(duān)用户，但外(wài)滩大会的观众们对AI医疗将(jiāng)如何改(gǎi)变疾病 的诊治感到好奇。

　　博斯腾科技(jì)的(de)展台(tái)则吸引 到了大(dà)量的老(lǎo)年观众，许(xǔ)多老人 纷纷拿出手机通过支付宝“碰 一碰”进行答题，检(jiǎn)测自己得阿(ā)尔(ěr)兹海默病的风(fēng)险指数。展区的工作人员介绍，通过许多数据、资 料(liào)的支撑(chēng)，这款产品(pǐn)能够通过答题测验、语音交互、动
作识别(bié)等方式检测阿尔兹海默病，并通过大模型生成用户专(zhuān)属的脑
健康
训练计划。

　　“我们的产品2020年成(chéng)型(xíng)，但借助摄像头的动态识别功能是今年刚推出的(de)，主要(yào)是借力于AI功能的发达，包括训练方案的(de)推荐，也的确在大模(mó)型出现后智能了(le)很多。”该展区的工作人员告诉记者。随着AI的(de)发展，更多AI医(yī)疗产品的“进化”值得期待(dài)。

　　需要强调(diào)的是，目前，许多AI医疗产品的诊疗效果仍(réng)缺乏公开数据或第三方权威机构的验证(zhèng)，相关展台的工(gōng)作人员也均表示AI医疗产品无法完全代替医生(shēng)诊疗需求，以辅助作用为主。不过，AI在医疗问题中的应用的确被业界期待。

　　不少大厂(chǎng)也在押注AI医疗赛道。外滩大会上，支付宝(bǎo)发布AI应(yīng)用(yòng)新(xīn)产品“AI健(jiàn)康(kāng)管家”，为用户提(tí)供找医生、读报告、陪看诊、问医保、管健康等30多(duō)项AI健康服(fú)务(wù)。百川智能创始人王小川则介(jiè)绍，百川智能将
重点在大(dà)医疗AI领域做投(tóu)入，从儿科医生、全科(kē)医生两个切入点发力，希(xī)望在明年实现医疗(liáo)的低成(chéng)本(běn)和可及性，减少医院的挤兑现象。

　　全国(guó)政(zhèng)协常委(wěi)周汉民在外滩(tān)大会的
一场论坛中表示，随(suí)着人工智能(néng)等新技术的不断发展和应用，医(yī)疗产业(yè)正(zhèng)迎来一场深(shēn)刻的变革。据他观察，从(cóng)最初(chū)的影像诊(zhěn)断、辅助诊疗、基因检测(cè)，到近年来的药物(wù)发现、临(lín)床试(shì)验、健康管理等，人工智能在提高精(jīng)准度与效率、个性化治(zhì)疗、数据处理
等(děng)方面具备显(xiǎn)著(zhù)优(yōu)势。他指出，医疗健康与人(rén)工智(zhì)能的融合还延伸到了中(zhōng)医领域。

　　谈及人工(gōng)智能(néng)在医疗产业的应用(yòng)情况，周汉民表示，人工智能在医疗健康产业的应用应(yīng)着力提高精准性、适用性和安全性(xìng)，此外，还需关(guān)注人工智能的引入是否会导致医护人员技能萎(wēi)缩、对人工智能的信任的误判以及信息超载。

　　以AI对抗AI

　　在期待技(jì)术带来美好生活的同时，如何预防技术“作(zuò)恶”也成为外滩(tān)大(dà)会讨论(lùn)的热点话题。

　　今年的外滩大会上，举办 了包括“afac2024金融智能创新(xīn)大赛”和(hé)“全球Deepfake攻(gōng)防(fáng)挑战赛”两场(chǎng)子(zi)赛事在(zài)内的AI创新大(dà)赛，由(yóu)于近日韩国曝出“Deepfake”（深度伪造技术）事件，被认为是采用新犯罪手(shǒu)段的“N号房”案件重(zhòng)现，以AI对抗AI，Deepfake攻防挑战赛尤(yóu)其受到观众的挑战。

　　事实上，随着AI技术的
发展，Deepfake滋生欺诈(zhà)等黑(hēi)色产业链，AI换脸(liǎn)欺诈(zhà)带来的经济财产损失、名誉受(shòu)损等事件(jiàn)正在成为全球挑战。

　　在外滩大会展区，许多观众(zhòng)现场拍照，然后利用Deepfake换脸模型和算法，通过视频活化、微笑(xiào)和眼镜模版对(duì)观众的真实照片进(jìn)行换脸，亲身感受了Deepfake的逼真。

　　而(ér)在外滩大会AI创新赛·全球(qiú)Deepfake攻防挑战赛的表演(yǎn)赛上，观众更是为AI识别AIGC伪造图片感到激动。在这场表演赛中，主持(chí)人(rén)拿出了9张玛丽莲梦露等女星的(de)照片，其中2张是AIGC伪造的(de)，选(xuǎn)手用
自己的参赛模(mó)型给出(chū)每张(zhāng)图片的伪造概率值，并对(duì)概率(lǜ)值最高(gāo)的2张照片(piàn)与正确答案进行比对。最终，两(liǎng)支参
赛队伍的模型(xíng)都找到了(le)正确答案(àn)。

　　在后续的互动(dòng)中，一个有趣(qù)的现象是，人类肉眼能够看出“一眼假”的伪造图片，AI可(kě)能识别不出，一些肉眼真假(jiǎ)难辨的图片，AI反而能识别。新加坡科 技研究局周天異教授分析，人类在判断图像是否(fǒu)伪造会依赖直觉和逻辑，一些人类一眼便知的(de)问题AI无法联系相
关背(bèi)景、情形(xíng)无法识(shí)别，而一些难以识别的(de)图片，AI一丝不苟、勤勤恳恳地完成人类(lèi)指令(lìng)的工作模式反而能找出问题。他表示，相(xiāng)比“一眼假”的图片，恰恰是这些难以识别的图片往往给人类带来更大损(sǔn)失，因此，用AI应对Deepfake有着重要(yào)意义。

　　“从我们现在看(kàn)到的数据来(lái)看，我们叫Deepfake的(de)攻击也好，AIGC的生(shēng)成(chéng)伪造，今年的攻击量(liàng)比(bǐ)去年大(dà)概增加了10倍，去年攻击的浓度大(dà)概是1%，今年就是10%。整个风险其实(shí)是呈(chéng)指数(shù)级上升的情况，这不仅仅是在中(zhōng)国(guó)，在韩国，在菲律宾(bīn)、印尼(ní)等国家都有 类似的情况发生。”外滩大会AI创新赛·全球Deepfake攻防挑战赛出题人、ZOLOZ技术(shù)总监姚伟斌表示(shì)，10%的浓度意味着业界发现线(xiàn)上的流量有10%是Deepfake的流量，随(suí)着AIGC的发展，生成的(de)成本(běn)会越来越低，效(xiào)率越来越高，明年可能不是(shì)20%，可能是50%，这是(shì)一个(gè)必须(xū)重视的威胁。

　　更多引导(dǎo)AI向善的观点也在外滩(tān)大会被
讨论，姚伟斌坦言，研发检(jiǎn)测算法，只是遏制Deepfake技术滥用(yòng)的方式之一。这种方式是相对滞后的。如果 要从根源上防范欺(qī)诈行为(wèi)，姚伟斌认为应在(zài)标准和立法角度，要求给A IGC 内容建(jiàn)立通用标识，比如每一张AIGC生成的视(shì)频或图片(piàn)都在(zài)文件(jiàn)信息里带一个签名或水印，这样平台管理更有依据，也(yě)能让AIGC 可 以更可信。

　　“让人工智能帮助(zhù)人弹钢(gāng)琴，而不是作恶。”是本(běn)届外滩大会反复强调的价值观。上海(hǎi)市(shì)数据科(kē)学重点实验室主任肖仰华表示，AI的(de)大规(guī)模滥(làn)用是可能损害人(rén)之为(wèi)人的本(běn)性的。要有所为有所不为，但凡伤害(hài)人之为人之本性(xìng)的AI应用，我们要谨慎，要(yào)加以限制。为(wèi)此，“我们要重(zhòng)视技术治理，并将治理提前考(kǎo)虑，做(zuò)到未雨绸缪。”

　　浙江强脑科技创始人兼CEO韩(hán)璧丞 则表示，AI伦理委员会的存在非(fēi)常重要。技(jì)术前(qián)进的时候，更应该关注“走的慢”的人。“当一个足以改变世界的技术出(chū)现时，我们先用它来帮(bāng)助(zhù)最需要的人(rén)”。

　　（本文来(lái)自第 一财经）

责任编辑：李(lǐ)桐

未经允许不得转载：橘子百科-橘子都知道 外滩大会参会规模创新高，人们都在关注如何防止AI作恶