【资料图】

AI技术的快速发展带来了巨大的机遇，同时也伴随着一些负面问题，如诈骗和信息虚假传播。近期发生的一起案例再次引发了对AI技术的监管讨论。

这起案件中，郭先生因被使用AI换脸技术的诈骗手段，损失了430万。这件事情的可怕之处在于，我们常常认为眼见为实，但现在不仅音频可以被伪装，视频也能够被伪装。诈骗犯罪分子利用AI技术对人脸进行换脸，伪装成郭先生的好朋友，并通过视频聊天确认身份，最终成功骗取了巨额资金。

对于AI技术的监管问题，意大利早在三月底就对平台背后的算法大规模收集个人信息的合法性提出了质疑。爱尔兰也开始质疑AI技术的两个方面：首先是AI技术未来可能失控，对人类文明带来风险；其次是AI技术可能被恶意利用，导致虚假信息传播和侵权行为。最近，达尔特曼在美国出席了一场关于AI技术规则的听证会。讨论的重点是如何对AI技术进行监管。科技监管一直是一项挑战性的任务，需要在保持创新和发展的同时，确保道德伦理的底线不被违背。

对于AI技术的监管需要找到一个平衡点。监管的难度在于如何把握好度，避免偏差。作为下一个增量赛道，AI监管将涉及到数据安全、AI算法以及对AI生成内容的识别和审核等环节。

尽管AI技术的落地可能会稍有延迟，但它绝不会缺席。正如川菜证券所说，AI监管可能成为未来的增长领域。在这个产业链中，数据安全、AI算法以及AI生成内容的识别和审核将成为具有较高确定性的关键环节。