百度粉丝网

研究表明Google AI在识别女性口罩方面存在问题

营销公司Wunderman Thompson的数据小组进行的一项最新研究表明,当对戴着口罩的人进行测试时,成熟的AI系统(如Google AI)存在性别偏见。

这项研究中使用的AI系统来自知名的技术名称,例如Google Cloud Vision,Microsoft Azure的Cognitive Services Computer Vision和IBM的Watson Visual Recognition。

我们都知道AI仍在开发中。此外,随着时间的推移频繁使用它只会变得更好。但是,研究结果表明,男人比女人更倾向于男人。该研究还使很多事情受到质疑。

Wunderman Thompson的数据小组进行的研究检查了视觉AI系统是否以与女性相同的方式对待穿着PPE套件的男性。在不同的条件和质量下总共拍摄了256张性别的图像。

研究中使用的所有AI系统均表现不佳

根据ZDNet的报告,研究中使用的AI系统都无法执行我们可以称做恒星或至少良好的人工智能系统。而且,所有人都发现很难在男人或女人的脸上发现口罩。

但是,戴着口罩的男性面部要比戴着口罩的女性面部更容易识别。Google AI的遮罩研究给出了一些令人震惊的结果。它可以识别出28%的女性图像,因为她们的嘴被胶带覆盖了。而且信心高达95%。其他8%的情况下,人工智能检测到戴口罩的女性,因为他们是面部毛发的女性。

IBM的数字也不是很好。结果显示,有23%的女性戴口罩。同时,在其他23%的案件中,可以肯定的是,妇女戴着链条或约束装置,而不是戴口罩。同时,只有5%的案例显示出预期的结果。

微软的计算机视觉似乎已经被很好地编码。结果表明,有40%的情况是因为女性穿着一些时尚配饰,还不错。在其他14%的时间中,它将女性脸上的面具识别为口红。它只有5%的时间检测到女性脸上的面具。

这项研究对像Google,IBM这样的成熟AI系统的教育提出了质疑

研究人员没有仔细检查这些AI系统的制造者,而是很好地揭示了这些AI系统所面临的偏见。

此外,尽管AI会随着时间的流逝而从学习模式中进行自我教育,但最终最终结果还是由人类来承担。此外,制造商应确保他们反映的是一个中立的社会,而不是普遍存在性别偏见的历史社会。

这将使自动化进入预期的路径。因为如果本地结果令人震惊,那么训练数据肯定存在问题。