行业科普 | 揭露AI算法偏见：公平至上
The following article is from 国际翻译动态 Author 张静飞
揭露AI算法偏见：公平至上
01
引言
从流媒体平台的个性化推荐到疾病爆发预测，机器学习算法改变了我们生活的方方面面。不可否认，其效率和准确性无与伦比。然而，随着AI系统越来越普遍，我们有必要怀疑它们是否真正公平。它们是做出了公平的判定，还是在计算中隐含偏见？本文将抛砖引玉，研究AI系统中的偏见，探索其影响，并阐明创造更公平算法的关键步骤。
02
机器学习算法中的偏见
机器学习算法是无需显式编程就能从经验中学习和改进的计算机程序，广泛应用于电子邮件筛检、网络入侵检测和计算机视觉等各个领域。
尽管有许多好处，但机器学习算法有时会呈现偏见。这种偏见源于它们所用的训练数据。例如，如果训练数据集包含对女性的偏见，则训练后的机器学习算法也可能对女性抱有偏见。
03
AI系统中的偏见
AI系统中的偏见是指算法预期结果与实际结果之间的差异。造成这种差异的因素多种多样，包括有偏见的训练数据、算法设计师的假设、甚至是他们的个人信念。
AI系统中的偏见可能会对使用者产生不利影响，从而使某些群体处于不公平的劣势，不准确的结果也会导致不当决策。
04
解决AI系统中的偏见
AI系统中的偏见源自多种因素，包括有偏见的训练数据、算法的选择、AI系统的使用方式以及参与设计、构建及使用系统的人员的偏见。
为了消除AI系统中的偏见，用于训练机器学习算法的数据集应经过细心编辑，确保其呈现的是现实世界。设计算法时应考虑公平性约束，防止偏见影响结果。此外，定期监控AI系统的偏见迹象至关重要，以便在必要时采取纠正措施。
我们还可以从技术层面着手，减少机器学习算法中的偏见。可以采用无偏见数据来训练算法，也可以采用数据预处理、算法选择和模型训练等技术。数据预处理包括清理、处理缺失数值和规范化数据。算法选择着重于选择不易产生偏见的算法。模型训练则涉及交叉验证和正则化等技术，防止过拟合（over-fitting）。
05
好处&挑战
减少AI系统中的偏见有许多好处：有助于提高决策的准确性和公平性，增加决策透明度和可信度，促进个人享受平等待遇、公平获得机会。
AI技术的进步显而易见，但解决偏见仍然是一项重大挑战。训练数据难免含有偏见，完全消除偏见又难以实现。不过，使用代表性数据集和偏见识别算法能有效缓解这些问题。
06
结语
综上所述，机器学习算法的公平性取决于训练数据的公平性。确保公平性则需要相关组织深刻理解训练数据，并在训练之前识别潜在偏见。各企业通过努力解决偏见和伦理问题，就可以超越单纯的检测，让AI承担起社会责任。
原文链接：https://techbullion.com/unveiling-bias-in-ai-systems-ensuring-fairness-in-machine-learning-algorithms/
部分插图来源：iconfont-阿里巴巴矢量图标库
往期回顾
2. 研究动态 | 人工智能助力古代语言翻译——天堑变通途
3. 论坛预告 | 2023年京津冀翻译协会协同发展学术论坛4.倒计时2天！第七届中央文献翻译与研究论坛议程
行业洞见
行业观察 | 朱华：拥有技术思维和素养，方能立于不败之地 行业观察 | 王立非：从传统语言服务走向智能语言服务 行业法规 | 生成式人工智能服务管理暂行办法 精彩回顾 | 王华树：基于GPT的翻译技术应用模式创新
行业技术
行业科普 | 识别人工翻译/机器翻译的“火眼金睛”？ 行业科普 | 法庭里的语言战士：NAJIT美国司法口笔译协会揭秘！ 行业科普 | 王立非教授解答语言服务常见的十个问题 技术科普 | SaaS本地化：挑战、 益处和最佳实践 行业技术 | LLMs能否替代人工评价作为对话生成质量的评估器？
精品课程
ChatGPT提示工程（Prompt Eng.）实践工作坊 精品课程 | 2023年暑期翻译技术实战研修班 精品课程 | GPT+：翻译、技术与语言学习工作坊 最后1天！实习证明、翻译项目，尽在四周暑期口笔译实习实践竞赛营！ 一天一块钱，承包全年全方位语言服务知识学习！
资源干货
资源干货 | 最新版Z-library官方客户端和最新地址 资源宝库｜双拼输入法——两天时间让你成为打字高手 双语干货 中华人民共和国对外关系法 双语干货 | 谢锋大使向中美媒体发表讲话 资源宝库｜译者用“典”，多多益善——精选31款在线词典
招聘就业1. 北京 | 翻译技术教育研究院暑期线下实习招聘
2. 招聘快报 | 第三届翻译技术教育研究院校园大使招募3. 招聘快报 | 博硕星睿招募课程主持兼回顾文案编辑4. 招聘快报 | 编制！黑龙江省税务局 招聘 英语专业岗5. 招聘快报 | 河北农业大学2023年公开招聘工作人员公告