$6M爱因斯坦电话销售者使用AI克隆拜登声音被罚款

联邦通信委员会建议对一名骗子处以600万美元罚款，他使用语音克隆技术在新罕布什尔州初选期间冒充拜登总统进行一系列非法电话营销。这更多关于电话推销，而不是人工智能，但该机构明显将此视为对其他潜在高科技骗子的警告。

您可能还记得，一月份，新罕布什尔州的许多选民收到一通自称是来自总统的消息，告诉他们不要在即将到来的初选中投票。当然，这是假的——使用过去几年广泛可用的技术对拜登总统进行了语音克隆。

尽管很久以来制作假声音就已经可能，但生成式AI平台使之变得轻而易举：数十个服务提供带有少量限制或监督的克隆声音。您可以很容易地通过一两分钟的他的演讲制作出自己的拜登声音，当然，这些演讲很容易在网上找到。

但您不能做的是使用那个虚假的拜登声音通过已经非法的电话推销来压制选民，这一点联邦通信委员会和几家执法机构已经明确表示。

“我们将迅速果断地采取行动，确保不良行为者不能利用美国的电信网络来利用生成式AI技术干扰选举、欺骗消费者或危害敏感数据，”联邦通信委员会执法局局长洛亚恩·埃加尔在新闻发布会上表示。

“政治顾问”史蒂夫·克莱默是主要的犯罪嫌疑人，尽管他诉诸之前因非法电话推销而被起诉的不光彩生活公司和不光彩电信Lingo等公司的帮助，以及其电话服务Lingo、或称为Americatel、或称为BullsEyeComm、或称为Clear Choice Communications、或称为Excel Telecommunications、或称为Impact Telecom、或称为Matrix Business Technologies、或称为Startec Global Communications、或称为Trinsic Communications、或称为VarTec Telecom。

克莱默“显然”违反了几项规定——但目前尚无针对他或他的合作者的刑事诉讼。这是联邦通信委员会权力的一项限制：他们必须与地方或联邦执法机构合作，以将他们的责任裁定作为专家机构。

600万美元罚款更像是一个上限或抱负；与联邦贸易委员会等其他机构一样，实际支付金额通常由于多种原因而大大减少，但即便如此，这仍是一个重大金额。接下来的步骤是克莱默对指控做出回应，尽管对Lingo或他们再次被抓到后所称呼自己的任何名字采取了单独的行动，这可能导致罚款或丧失许可证。

在上面的案例引发了AI生成声音是否被视为“人造”的问题后，AI生成声音在2月份正式宣布为在电话推销中使用是非法的，而联邦通信委员会则明智地决定，的确如此。

我们正在推出AI简讯！点击这里注册开始在6月5日收到它投递到您的收件箱。