• civil penalties
    从“禁用机器人上司”到“人机共治”:加州 SB 7 将如何重塑用工 AI 合规版图 加州通过“No Robo Bosses Act”(SB 7),加州州长需在 10 月 12 日前决定是否签署。一旦生效,该法案将于 2026 年 1 月 1 日实施,全面规范 AI 在就业决策中的使用。主要条款包括:雇主不得仅依赖 AI 作出纪律、解雇或停用决定;若主要依赖 AI,必须有人工复核;使用前至少提前 30 天通知员工,并在解雇时单独告知;员工每年有权申请一次相关数据。违规将面临 500 美元/次罚款。这项立法被视为全球首个系统性 AI 职场监管案例,为员工提供更高透明度与数据权利。 以下是正文,供参考: 加州立法机构已通过被称为“No Robo Bosses Act”的 SB 7,并送交州长审议。按照加州官方立法日程,州长需在 2025 年 10 月 12 日前签署或否决该法案;若签署,新法自 2026 年 1 月 1 日起生效。这部全美首创的就业 AI 专法,以“通知—限制—监督—救济”为主线,覆盖从招聘到解雇的几乎全部“就业相关决策”,并在“纪律、解雇或停用”等高风险场景强制引入实质性人工复核。 一、SB 7 到底规范了什么? 关键定义与适用范围 自动化决策系统(ADS):凡是由机器学习、统计建模、数据分析或 AI 组成、输出“评分/分类/推荐”等简化结果、用来辅助或替代人的自由裁量、并对自然人产生实质性影响的计算过程,均被纳入。 就业相关决策:范围极广,几乎涵盖工资、福利、工作时长/班次、绩效、招聘、纪律、晋升、解雇、任务/技能要求、工作分配、培训与机会获取、生产率要求、健康与安全等。 工人(Worker):不仅包括雇员,也包括向企业或政府实体提供服务的独立承包人。 “不能只靠机器”的红线 在纪律、解雇或“停用(deactivation)”决策中,雇主不得仅依赖 ADS。 若“主要依赖” ADS 输出作出上述决定,必须由人类复核者审阅 ADS 输出,并汇总与审查其他相关信息(如主管评估、人员档案、工作成果、同事评议、证人访谈/相关在线评价等)。 不得将客户评分作为唯一或主要输入数据用于就业决策。 二、四大通知义务 使用前通知(Pre-Use Notice) 部署前至少 30 天向将被直接影响的工人发出书面通知;若法律生效时已在用,最迟 2026 年 4 月 1 日完成补通知;新入职者在入职 30 天内告知。 招聘场景:对使用 ADS 的岗位,需在收到申请时或在岗位公告中告知。内容包括:受影响的决策类型、输入数据类别与来源及采集方式、已知会导致输出偏差的关键参数、ADS 创建方、工人数据访问/更正权利、配额说明(如适用)、反报复声明等。 使用后通知(Post-Use Notice) 若在纪律、解雇或停用中“主要依赖 ADS”,在告知该决定的同时,还须向员工发出独立书面通知:说明可联系的人与数据获取方式,表明使用了 ADS,员工有权请求其被使用的数据,并重申反报复。 三、数据权利与合规底线 员工每 12 个月可申请一次,获取过去 12 个月在“主要依赖 ADS”的纪律/解雇/停用决策中所使用的本人数据(提供时须匿名化他人信息)。 禁止性使用:不得用 ADS 违反劳动/民权/安健等法律;不得推断受保护身份;不得围绕未披露目的收集工人数据;不得针对行使权利者进行画像/预测/不利行动。 四、执行与责任 执法机关:加州劳动专员主责,可调查、发临时救济、开具传票与罚单并提起民事诉讼;地方检察官也可起诉。 罚则:每次违规 500 美元民事罚款(可累计)。法案同时禁止对行使权利的员工实施任何形式的报复。 生效与时点:2025 年 10 月 12 日为州长签署/否决截止日期;2026 年 1 月 1 日起生效(若签署)。 五、与其他法律的交互作用 与 CCPA/CPPA 的衔接:若企业受《加州消费者隐私法》及加州隐私保护局关于自动化决策技术的隐私规则约束,则仍须遵守相应隐私规。 工会豁免:若有效的集体谈判协议中明确豁免 SB 7,并对工资/工时/工况与算法管理保护有清晰规定,则在该覆盖范围内不适用。 地方更高标准:SB 7 不排斥提供等同或更高保护的地方法规。 六、难点与灰区 “主要依赖”如何判定? 法律未给百分比或权重阈值,复核是否实质有效而非走过场,将依赖执法与判例。 通知与数据工作量 多系统、多岗位、多轮通知加数据留存,意味着 HR、法务与 IT 协作成本显著上升。 客户评分的边界 “不得作为唯一或主要输入”的要求,将迫使零售、外卖、平台经济等行业调整绩效与纪律模型。 七、横向对比:其他地区的经验 纽约市 Local Law 144:要求使用自动就业决策工具(AEDT)的企业进行年度偏见审计,并将结果公开,同时在招聘/评估阶段告知候选人和员工。 科罗拉多州 SB 24-205:对“高风险 AI”规定开发者和部署者的合理注意义务,要求进行影响评估,并建立申诉与数据更正路径,将于 2026 年 2 月 1 日生效。 欧盟 AI 法案:采取风险分级监管模式,高风险系统必须建立合规体系,并开展基本权利影响评估(FRIA),监管覆盖就业、教育、金融等多个场景。 八、企业实操路线图 盘点与评估 列出所有 ADS 使用点(招聘、绩效、排班、监控、培训等)。 识别纪律/解雇/停用链路中是否存在“主要依赖”。 审查 AI 供应商合同,确保披露必要数据来源与偏置参数。 通知与数据管理 建立前置通知、后置通知模板,并完成 2026 年 4 月 1 日前的补通知。 建立数据台账,支持员工数据申请与匿名化处理。 培训与演练 培训人类复核者,明确复核标准和证据清单。 建立纪律/解雇/停用的双轨记录机制,确保合规。 九、场景演练:门店一线员工“低评分解雇” 错误做法:直接将顾客星级评价作为主要依据触发解雇。合规做法: 将客户评分作为辅证。 由人类复核者调取主管评估、档案、工作样本、同事/证人意见等。 在决定同时发出后置通知,说明联系人、ADS 介入情况与数据申请权利。 十、对 HR 科技与供应链的影响 产品设计将更重视:通知生成器、人类复核工作台、数据取证与匿名化导出、偏置敏感参数标注等功能。 商业条款倾向:在 SLA 中加入合规配合、日志可提取性、异常暂停条款,对高风险场景的责任分配更加谨慎。 十一、编辑部点评 SB 7 的真正创新点不在于偏见审计或宏观风险分级,而在于直接规定:高风险就业决策必须有人类复核。这一行为导向+流程内嵌的模式,预示着企业 HR 管理将进入“人机共治”的新阶段。难点在于如何界定“主要依赖”与如何确保“复核质量”。未来数年,这些模糊地带将决定 SB 7 在实践中的实际效果。 关键信息与来源 加州议会法案文本:SB 7 Employment: automated decision systems 加州立法日程:2025 年 10 月 12 日为州长签署/否决截止日期,2026 年 1 月 1 日生效(若签署) 相关法规:纽约市 Local Law 144、科罗拉多州 SB 24-205、欧盟 AI 法案
    civil penalties
    2025年09月23日
  • civil penalties
    美国SEC控告纽约的AI招聘公司Joonko的创始人证券欺诈和电信欺诈 概要:伊利特·拉兹(Ilit Raz),AI招聘公司Joonko的首席执行官和创始人,因涉嫌对投资者进行重大欺诈被美国证券交易委员会(SEC)及纽约南区美国检察官办公室指控。SEC指控拉兹通过虚假和误导性的声明欺骗投资者,包括夸大Joonko的客户数量和质量、平台上的求职者数量以及公司收入,涉嫌欺诈金额至少达到2100万美元。 Joonko公司自称利用人工智能帮助客户找到多元化和代表性不足的求职者,以达到其多元化、公平和包容的招聘目标。然而,拉兹向投资者提供了虚构的客户感谢信和赞誉其效果的假证据,甚至在被投资者质疑时提供了伪造的银行对账单和合同。这一骗局在2023年中期被揭穿,当时一名投资者面对面质问拉兹,拉兹承认伪造文件并撒谎关于公司的财务状况和客户基础。 SEC和刑事检察机关的指控显示,拉兹利用新兴技术领域的热潮,以人工智能和自动化等流行词汇吸引投资,实际上却进行了传统的欺诈行为。这一事件不仅揭示了创业公司在吸引投资时可能存在的道德风险,也提醒了投资者在追求人工智能等高科技领域的投资机会时需要格外谨慎。   总部位于纽约市的人工智能招聘平台Joonko的创始人及前首席执行官因涉嫌欺诈投资者,误导他们关于公司核心方面的信息,被控证券欺诈和电信欺诈。 美国证券交易委员会(SEC)在6月11日于纽约南区联邦地区法院提交的投诉中指控,这家现已关闭的人工智能招聘初创公司的创始人及前首席执行官伊利特·拉兹通过对Joonko的客户数量和质量、平台上的求职者数量以及公司收入等核心方面作出虚假和误导性陈述,从投资者那里骗取至少2100万美元(2022年9月有一篇融资B轮2500万美元的新闻点击可以查看)。 Joonko在2022年完成了由Insight Partners领投、包括Target Global、Kapor Capital和Vertex Ventures Israel等投资者参与的2500万美元B轮融资。《华尔街日报》报道称,该公司自2016年成立以来共筹集了超过3800万美元。Kapor Capital拒绝对此发表评论,而Insight、Target Global和Vertex Ventures Israel则没有回应《华尔街日报》的置评请求。 SEC指控拉兹违反了联邦证券法的反欺诈条款,要求对其实施永久禁令、民事罚款、返还非法所得及预审计利息,并禁止其担任公司高管。 与此同时,纽约南区美国检察官办公室也于6月11日宣布了针对拉兹的刑事指控。拥有以色列国籍的拉兹被控一项证券欺诈和一项电信欺诈,每项罪名最高可判20年监禁。 Joonko于5月24日在特拉华州美国破产法院申请破产保护。 根据SEC的投诉,Joonko声称使用人工智能帮助客户找到多元化和代表性不足的求职者,以实现其多元化、公平和包容的招聘目标。拉兹在筹资过程中向投资者谎称Joonko拥有超过100家客户——包括财富500强公司,并向投资者提供了几家公司的虚假感谢信,赞扬其效果。 拉兹还谎称Joonko的收入超过100万美元,正在与超过100000名活跃求职者合作,并在投资者怀疑时向其提供了伪造的银行对账单和伪造的合同。根据投诉,这一骗局在2023年中期被揭穿,当时一名投资者面对面质问拉兹,后者承认伪造了银行对账单和合同,并且在Joonko的收入和客户数量上撒谎。 SEC执行局局长古尔比尔·格雷瓦尔(Gurbir Grewal)在一份新闻稿中表示:“我们指控拉兹利用老式的诈骗手法,但使用了新式的流行词如‘人工智能’和‘自动化’。随着越来越多的人寻求人工智能相关的投资机会,我们将继续监管市场,防止今天投诉中所指控的类型的不当行为。但与此同时,对于那些利用人工智能的热潮来筹资的公司,投资者也应保持警惕。”   附录SCE的新闻稿: Washington D.C., June 11, 2024 — The Securities and Exchange Commission today charged Ilit Raz, CEO and founder of the now-shuttered artificial intelligence recruitment startup Joonko, with defrauding investors of at least $21 million by making false and misleading statements about the quantity and quality of Joonko’s customers, the number of candidates on its platform, and the company’s revenue. According to the SEC’s complaint, Joonko claimed to use artificial intelligence to help clients find diverse and underrepresented candidates to fulfill their diversity, equity, and inclusion hiring goals. To raise money for Joonko, the complaint alleges that Raz falsely told investors that Joonko had more than 100 customers, including Fortune 500 companies, and provided investors with fabricated testimonials from several companies expressing their appreciation for Joonko and praising its effectiveness. Raz also allegedly lied to investors that Joonko had earned more than $1 million in revenue and was working with more than 100,000 active job candidates. When an investor grew suspicious of Raz’s claims, Raz allegedly provided the investor with falsified bank statements and forged contracts in an effort to conceal the fraud. According to the complaint, the scheme unraveled in mid-2023 when the investor confronted Raz, who admitted to forging bank statements and contracts and lying about Joonko’s revenue and number of customers. “We allege that Raz engaged in an old school fraud using new school buzzwords like ‘artificial intelligence’ and ‘automation,’” said Gurbir S. Grewal, Director of the SEC’s Division of Enforcement. “As more and more people seek out AI-related investment opportunities, we will continue to police the markets against AI-washing and the type of misconduct alleged in today’s complaint. But at the same time, it is critical for investors to beware of companies exploiting the fanfare around artificial intelligence to raise funds.” The SEC’s complaint, filed in the U.S. District Court for the Southern District of New York, charges Raz with violating the antifraud provisions of the federal securities laws and seeks a permanent injunction, civil money penalties, disgorgement with prejudgment interest, and an officer-and-director bar against Raz. In a parallel action, the U.S. Attorney's Office for the Southern District of New York today announced criminal charges against Raz. The SEC’s investigation was conducted by Alicia Guo, Ariel Atlas, Neil Hendelman, and Lindsay S. Moilanen and was supervised by Sheldon L. Pollock of the New York Regional Office. The litigation will be led by Ms. Guo and Ms. Atlas, and supervised by Daniel Loss and Mr. Pollock. The SEC appreciates the assistance of the U.S. Attorney’s Office for the Southern District of New York and the FBI. 华盛顿特区,2024年6月11日 — 美国证切和交易委员会(SEC)今日指控现已关闭的人工智能招聘创业公司Joonko的首席执行官兼创始人伊利特·拉兹(Ilit Raz),因在Joonko的客户数量和质量、平台上的候选人数量以及公司收入方面向投资者做出虚假和误导性陈述,欺诈投资者至少2100万美元。 根据SEC的投诉,Joonko声称使用人工智能帮助客户找到多元化和代表性不足的候选人,以实现其多元化、公平和包容的招聘目标。投诉称拉兹向投资者谎称Joonko拥有超过100家客户,包括财富500强公司,并向投资者提供了几家公司的虚构感谢信,赞扬其效果。拉兹还谎称Joonko的收入超过100万美元,并正在与超过100,000名活跃求职者合作。当一名投资者对拉兹的说法表示怀疑时,拉兹据称向该投资者提供了伪造的银行对账单和伪造的合同来掩盖欺诈行为。根据投诉,该骗局在2023年中期被揭露,当时该投资者直面拉兹,后者承认伪造银行对账单和合同,并且在Joonko的收入和客户数量上撒谎。 SEC执行局局长古尔比尔·S·格雷瓦尔(Gurbir S. Grewal)表示:“我们指控拉兹利用老式的欺诈手法,但使用了新式的流行词如‘人工智能’和‘自动化’。随着越来越多的人寻求人工智能相关的投资机会,我们将继续监管市场,防止今天投诉中所指控的类型的不当行为。但与此同时,对于那些利用人工智能的热潮来筹资的公司,投资者也应保持警惕。” SEC的投诉已提交至纽约南区美国地区法院,指控拉兹违反联邦证券法的反欺诈条款,并寻求永久禁令、民事罚款、返还非法所得及预审计利息,并禁止其担任公司高管。 与此同时,纽约南区美国检察官办公室今天也宣布了针对拉兹的刑事指控。 SEC的调查由纽约地区办公室的艾丽西亚·郭(Alicia Guo)、阿里尔·阿特拉斯(Ariel Atlas)、尼尔·亨德尔曼(Neil Hendelman)和林赛·S·莫伊兰宁(Lindsay S. Moilanen)进行,并由谢尔顿·L·波洛克(Sheldon L. Pollock)监督。诉讼将由郭女士和阿特拉斯女士领导,并由丹尼尔·洛斯(Daniel Loss)和波洛克先生监着。SEC感谢纽约南区美国检察官办公室和联邦调查局的协助。
    civil penalties
    2024年06月15日