点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:大模型领域需应对数据造假和算法歧视等挑战
首页> 网安频道> 评论观察 > 正文

大模型领域需应对数据造假和算法歧视等挑战

来源:人民邮电报2024-11-15 15:55

  当前,人工智能(AI)和大型机器学习模型(大模型)在金融、医疗、教育等多个领域引发了一场技术革命。这些技术以其强大的数据处理能力和模式识别功能,正在重塑行业的运作方式。

  然而,随着AI技术的火热发展,也带来了一些隐忧。微众银行首席人工智能官、香港科技大学计算机与工程系荣休教授与前系主任杨强在接受采访时表示,目前,全球AI领域最活跃的两个地区是美国和中国。“我个人的看法是,两国在AI领域的发展是犬牙交错、各有优势。美国在多模态大模型等方面确实领先了一段时间,但中国正在迅速迎头赶上。中国在某些领域,如多模态大模型的应用场景,以及长文本处理等方面已经处于全球领先地位。此外,美国在GPT-4和GPT-5等技术上取得了显著进展,但我相信中国的科学家也会很快跟上。”杨强说。

  对于AI在金融领域的应用,杨强表示,AI技术主要分为两大类:判别式AI和生成式AI。判别式AI,如深度学习技术,是模仿Alpha Go这样的智能系统,它通过分析数据来做出决策。生成式AI则能够创造新的内容,如文本或图像。目前,判别式AI在实际应用中更为广泛,尤其是在人脸识别、反欺诈、防伪以及营销推荐算法等领域。尽管生成式AI在某些特定场景下也展现出潜力,但真正能够实现高效投入产出的应用案例仍然不多。

  以微众银行为例,杨强介绍,微众银行成功在客户服务对话中应用生成式AI。AI系统能够自动理解客户与客服人员的对话内容,分析用户的意图,并提供相应的文本理解支持。这不仅帮助客服人员更好地关注用户关心的问题,还提高了服务的质量和效率。

  但他同时提示,在大模型应用过程中,还存在多种风险,包括数据造假和算法歧视。算法歧视通常源于模型训练数据的偏差,导致模型对某些未见过的数据类型产生不公正的处理。数据造假,尤其是在金融领域,已经成为一个严重问题。随着技术的发展,甚至可能出现伪造的实时视频,这对现有的安全措施提出了挑战。

  “为了应对这些挑战,我们正在进行相关研究,并且已经取得了一些有效的成果。在这个领域,技术进步和安全措施总是在不断地相互竞争和提升。”杨强表示,法律也需要不断更新,以适应技术发展带来的新挑战,确保数据安全和AI应用的健康发展。总体来说,这是一个“道高一尺、魔高一丈”的动态过程。(马梅若)

  (文章来源:中国金融新闻网)

[ 责编:曾震宇 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 封关百日 免税红利持续释放

  • 2026中国科幻大会在京开幕

独家策划

推荐阅读
湖北、安徽、贵州、江苏、湖南等多地茶园迎来采摘旺季,茶农们抢抓晴好天气,穿梭于层层茶垄间,指尖翻飞采摘鲜嫩茶芽,一派繁忙的春日采茶景象。
2026-03-28 20:03
2026“中国皖美山水”骑行赛・黄山黟县站暨第二十一届中国黄山(黟县)自行车公开赛鸣枪开赛。
2026-03-28 19:40
安徽合肥庐阳区三十岗乡崔岗艺术村春意盎然,金黄油菜花与粉艳桃花次第绽放,漫山花海与乡村民居相映成趣,绘就一幅秀美的春日田园画卷。
2026-03-28 19:28
江苏南通通州区洲际梦幻岛内,层层叠叠的彩色花田顺着缓坡铺展,紫、橙、黄、粉等各色花卉交织成灵动的曲线纹样,宛如大地铺就的斑斓织锦,春日盛景尽收眼底。
2026-03-28 19:17
春日繁花盛开,如何用手机拍出通透干净、富有美感的花卉照片?本期视觉小课堂分享三组实用易操作的拍摄技巧。
2026-03-28 16:25