New York đề xuất loạt luật AI mới: điều gì đã có thật, điều gì chưa thành luật
Hội đồng Thành phố New York vừa công bố các đề xuất về xác thực AI, human override và báo cáo sự cố. Đây là gói dự luật đang được xem xét, chưa phải một bộ nghĩa vụ mới đã có hiệu lực.
Xong bài này bạn làm được Tránh biến một thông cáo về dự luật thành tuyên bố rằng doanh nghiệp đã phải tuân thủ các yêu cầu mới ngay lập tức.
Ngày 25/9, Hội đồng Thành phố New York công bố một loạt đề xuất lập pháp về AI. Trong danh sách có những ý tưởng dễ tạo tiêu đề mạnh: hệ thống AI được bán hoặc triển khai trong thành phố phải có xác thực của bên thứ ba; phải có cơ chế để con người dừng hệ thống; một số sự cố AI liên quan nhà thầu thành phố phải được báo cáo trong 24 giờ; và có các đề xuất về trách nhiệm khi biện pháp an toàn bị vượt qua.
Điểm quan trọng nhất lúc này không nằm ở con số phạt hay cụm từ “kill switch”. Nó nằm ở trạng thái pháp lý: đây là các dự luật và đề xuất đang được đưa vào quy trình xem xét, không phải một bộ quy định mới đã tự động có hiệu lực từ ngày 25/9. Hội đồng cho biết các đề xuất sẽ được đưa ra tại phiên điều trần Committee of the Whole ngày 5/10.
Vì vậy, nếu bạn thấy một tiêu đề kiểu “New York bắt buộc mọi AI phải có nút tắt”, cách đọc an toàn hơn là thêm hai câu hỏi: yêu cầu đó đang nằm trong dự luật nào, và dự luật đã đi đến bước nào của quy trình lập pháp?
Những gì Hội đồng thực sự đề xuất
Thông cáo chính thức liệt kê nhiều dự luật. Một đề xuất do Speaker Julie Menin bảo trợ sẽ cấm doanh nghiệp tiếp thị, chào bán hoặc triển khai một hệ thống AI trong thành phố nếu hệ thống đó chưa được bên thứ ba xác thực. Phạm vi xác thực được mô tả gồm chất lượng dữ liệu, thiên lệch, đầu ra quyết định, quyền riêng tư, bảo mật và các yêu cầu khác do New York City Cyber Command đặt ra.
Cùng đề xuất đó yêu cầu hệ thống có một human override — cơ chế để con người có thể dừng hệ thống. Thông cáo gọi đây là “kill switch”. Bên xác thực cũng phải kiểm tra sự tồn tại của cơ chế này. Thông cáo nêu mức phạt 25.000 USD cho mỗi trường hợp hệ thống được tiếp thị, chào bán hoặc triển khai mà không có xác thực phù hợp, hoặc khi việc xác thực bị làm giả.
Một đề xuất khác nhắm vào hợp đồng của thành phố. Nó yêu cầu xây dựng tiêu chuẩn để nhà thầu nhận diện sự cố an toàn AI liên quan hợp đồng; khi nhà thầu hoặc cơ quan trao hợp đồng biết về một sự cố thuộc phạm vi, thông báo bằng văn bản cho Cyber Command sẽ phải được thực hiện trong 24 giờ. Thông cáo cũng mô tả yêu cầu công khai sự cố đã được báo cáo trong 24 giờ.
Ngoài ra còn có đề xuất về cơ chế thưởng cho người tố giác, quyền khởi kiện dân sự trong một số trường hợp thiệt hại có thể dự đoán được do bên thứ ba vượt biện pháp an toàn, nghĩa vụ công bố thông tin về công cụ AI, và kế hoạch ứng phó khi sự cố AI ảnh hưởng hệ thống hoặc hạ tầng của thành phố.
Đó là nội dung đáng theo dõi. Nhưng “được đề xuất” và “đang có hiệu lực” là hai trạng thái khác nhau.
Vì sao chưa thể coi đây là luật mới đang áp dụng
Trang giải thích quy trình lập pháp của chính Hội đồng Thành phố New York mô tả nhiều bước sau khi một dự luật được giới thiệu. Dự luật được giao cho ủy ban, có thể trải qua điều trần công khai và sửa đổi, sau đó ủy ban bỏ phiếu. Nếu qua ủy ban, toàn Hội đồng tiếp tục xem xét và bỏ phiếu. Một dự luật được Hội đồng thông qua còn đi đến Thị trưởng; tùy việc ký, phủ quyết, không hành động hoặc khả năng Hội đồng vượt phủ quyết, nó mới đi tới trạng thái luật.
Điều này tạo ra một phép kiểm tra rất đơn giản cho người đọc tin chính sách AI: đừng suy trạng thái pháp lý từ độ mạnh của câu chữ trong thông cáo. Hãy kiểm tra bước của dự luật.
Trong trường hợp gói AI ngày 25/9, chính thông cáo nói các dự luật sẽ được nghe tại phiên Committee of the Whole ngày 5/10. Nói cách khác, mốc gần nhất là một bước xem xét công khai quan trọng, không phải ngày bắt đầu áp dụng một bộ nghĩa vụ mới cho mọi công ty AI.
Ba tín hiệu doanh nghiệp nên theo dõi
Nếu bạn làm sản phẩm AI, ba nhóm ý tưởng trong gói này đáng chú ý ngay cả trước khi biết phiên bản cuối cùng có được thông qua hay không.
Thứ nhất là xác thực độc lập. Nếu một yêu cầu như vậy tiến xa trong quy trình, câu hỏi thực tế sẽ không chỉ là “model nào đang dùng”, mà còn là hệ thống hoàn chỉnh được kiểm tra theo tiêu chí nào, ai đủ điều kiện xác thực và bằng chứng nào phải lưu lại. Hiện tại thông cáo mới mô tả hướng đề xuất; đừng tự suy ra một chuẩn kỹ thuật chi tiết chưa được công bố.
Thứ hai là khả năng con người dừng hệ thống. Với agent có quyền gọi công cụ, truy cập dữ liệu hoặc thực hiện hành động, đây là một câu hỏi kiến trúc dễ hiểu: khi hành vi đi sai hướng, ai có quyền dừng và việc dừng có thật sự chặn hành động tiếp theo không? Dù dự luật còn đang được xem xét, đội sản phẩm có thể dùng câu hỏi này để kiểm tra thiết kế hiện tại mà không cần giả vờ rằng họ đang tuân thủ một luật chưa tồn tại.
Thứ ba là báo cáo sự cố theo thời gian ngắn. Đề xuất 24 giờ được thông cáo gắn với các sự cố liên quan hợp đồng thành phố thuộc phạm vi, không phải một tuyên bố rằng mọi sự cố AI của mọi doanh nghiệp ở mọi nơi đều phải báo trong 24 giờ. Đây là chỗ rất dễ bị rút gọn sai khi đọc tiêu đề.
Nên làm gì trước ngày 5/10
Nếu tổ chức của bạn không hoạt động tại New York, sự kiện này trước hết là một tín hiệu chính sách để theo dõi, không phải lý do tự nhận một nghĩa vụ pháp lý mới. Nếu bạn có sản phẩm, khách hàng hoặc hợp đồng liên quan thành phố, nên để bộ phận pháp lý hoặc tuân thủ theo dõi văn bản dự luật và các sửa đổi thay vì dựa vào bài báo hoặc bài viết này.
Với đội sản phẩm, có thể chuẩn bị một bảng kiểm không mang tính pháp lý gồm ba câu: hệ thống hiện có cơ chế dừng do con người kiểm soát không; đội có lưu bằng chứng kiểm thử và đánh giá rủi ro đủ để một bên độc lập hiểu không; khi có sự cố, ai chịu trách nhiệm phân loại và chuyển thông tin cho bộ phận phù hợp? Đây là các câu hỏi vận hành hữu ích ngay cả khi dự luật thay đổi.
Sau phiên điều trần 5/10, hãy kiểm tra lại nguồn chính thức: dự luật nào tiếp tục, nội dung nào được sửa, bước bỏ phiếu tiếp theo là gì. Chỉ khi quy trình tiến tới thông qua và có văn bản cuối cùng, doanh nghiệp mới có cơ sở để xác định chính xác nghĩa vụ, phạm vi và thời điểm áp dụng.
Tóm lại, tin đáng chú ý là New York đang xem xét một gói kiểm soát AI khá rộng. Nhưng cách đọc chính xác ở thời điểm hiện tại là: các yêu cầu như xác thực bên thứ ba, human override và báo cáo sự cố đang được đề xuất; chúng chưa nên được kể như một bộ luật mới đã có hiệu lực. Phân biệt hai trạng thái này giúp bạn theo dõi chính sách nhanh mà không biến “có thể sẽ phải làm” thành “đã bắt buộc phải làm”.