Đảm bảo AI nguồn mở phát triển mạnh theo các quy tắc AI mới của EU

Ensuring Open Source AI thrives under the EU’s new AI rules

March 27, 2025; Jordan Maris

Theo: https://opensource.org/blog/ensuring-open-source-ai-thrives-under-the-eus-new-ai-rules

Bài được đưa lên Internet ngày: 27/03/2025

Năm 2024, Liên minh Châu Âu đã phê duyệt Đạo luật Trí tuệ nhân tạo, khung pháp lý đầu tiên trên thế giới dành cho AI. Một phần của luật này yêu cầu phải tạo ra Bộ quy tắc thực hành cho AI mục đích chung dành cho các nhà phát triển AI. OSI đã nộp đơn xin tham gia soạn thảo các quy tắc này, nhưng khi bản thảo đầu tiên được đưa ra, chúng tôi phát hiện ra các vấn đề khiến các dự án AI Nguồn mở không thể tuân thủ. Sau đây là cách chúng tôi khắc phục chúng.

Bộ quy tắc thực hành dùng để làm gì và tại sao nó lại quan trọng?

Bộ quy tắc thực hành cho AI mục đích chung của Liên minh Châu Âu (EU) là một bộ quy tắc tự nguyện sắp ra mắt được thiết kế để giúp các nhà phát triển chứng minh rằng họ đang tuân thủ Đạo luật AI. Đây là biện pháp tạm thời trong khi EU phát triển các tiêu chuẩn chuyên sâu về trí tuệ nhân tạo (AI), nhưng nó sẽ truyền cảm hứng cho các tiêu chuẩn trong tương lai mà EU đưa ra.

Vào tháng 8 năm 2024, Sáng kiến Nguồn mở (OSI) đã nộp đơn xin tham gia vào quá trình soạn thảo. Chúng tôi đã được chấp nhận và đã làm việc kể từ đó để đảm bảo rằng các quy tắc mới này được viết theo hướng Nguồn mở.

Bộ quy tắc thực hành có vấn đề gì?

Nhìn chung, Bộ quy tắc thực hành đề xuất các biện pháp thực hành hợp lý để giảm thiểu rủi ro mà AI có thể gây ra. Các hệ thống AI tuân thủ Định nghĩa AI nguồn mở của OSI đã tuân thủ hầu hết các quy tắc này, nhưng có một vài yếu tố trong Bộ quy tắc thực hành mà các nhà phát triển Nguồn mở không thể triển khai.

Đặc biệt, các bản thảo trước đây của Bộ quy tắc thực hành đã yêu cầu các chính sách sử dụng được chấp nhận và lệnh cấm một số cách sử dụng hệ thống AI. Nhưng việc có những hạn chế này lại xung đột với quyền tự do sử dụng mà Nguồn mở đảm bảo, cụ thể là quy tắc 6 của Định nghĩa Nguồn mở (Không phân biệt đối xử với các lĩnh vực nỗ lực). Điều này có nghĩa là các nhà phát triển sẽ phải lựa chọn giữa việc tuân thủ Bộ quy tắc thực hành hoặc trở thành Nguồn mở.

Điều này không tốt cho cả các nhà phát triển và EU: các công ty có thể không cân nhắc các giải pháp Nguồn mở nếu họ không chắc chắn rằng họ có thể tuân thủ luật, điều này có thể làm chậm trễ hoặc thậm chí dừng việc phát triển và triển khai các hệ thống AI Nguồn mở ở Châu Âu. Điều này sẽ đặc biệt đáng tiếc, vì các hệ thống AI Nguồn mở về bản chất là minh bạch và dễ tiếp cận nhất. Ngoài ra, các hạn chế được đề xuất thực sự không thể thực thi được; các hạn chế có thể bị người dùng hạ nguồn gỡ bỏ và các chính sách sử dụng được chấp nhận có thể đơn giản bị bỏ qua.

OSI đã hoạt động như thế nào để khắc phục vấn đề này

Trong vòng phản hồi đầu tiên, chúng tôi đã nêu lên mối quan ngại về sự không tương thích của Bộ quy tắc thực hành với các nguyên tắc Nguồn mở. Sau khi không thấy cải thiện nào trong bản thảo thứ hai, chúng tôi đã hợp tác với các tổ chức có cùng chí hướng và viết thư cho các chủ tịch, nêu rõ vấn đề này. Vào ngày 11 tháng 3, bản thảo thứ ba của Bộ quy tắc thực hành đã được công bố, trong đó đưa ra các chính sách sử dụng có thể chấp nhận được tùy chọn và miễn trừ AI Nguồn mở khỏi lệnh cấm một số cách sử dụng hạ nguồn.

Chúng tôi hoan nghênh những thay đổi này vì chúng sẽ cho phép các nhà phát triển AI Nguồn mở tuân thủ Bộ quy tắc thực hành, xóa bỏ rào cản nghiêm trọng đối với sự phát triển AI Nguồn mở ở Châu Âu!

Tiếp theo là gì?

Sáng kiến Nguồn mở vẫn cam kết đảm bảo Nguồn mở được tính đến khi các quy tắc mới như thế này được đưa ra. Chúng tôi sẽ tiếp tục tuân thủ quy trình soạn thảo và đảm bảo những thay đổi này không bị đảo ngược. Chúng tôi cũng sẽ tiếp tục đấu tranh chống lại việc tẩy trắng (open washing) một số mô hình AI như Meta's Llama, đồng thời nỗ lực giáo dục và thông báo cho các nhà lập pháp về Nguồn mở và các lợi ích của nó.

Nếu bạn thích những gì chúng tôi đang làm, hãy cân nhắc quyên góp! Sự hỗ trợ của bạn giúp chúng tôi có thể thực hiện được công việc!

In 2024, the European Union approved the Artificial Intelligence Act, the world’s first legal framework for AI. Part of the law mandated the creation of a Code of Practice for General Purpose AI for AI developers. The OSI applied to take part in the drafting of these rules, but when the first draft arrived, we discovered issues that would make it impossible for Open Source AI projects to comply. Here’s how we fixed them.

What is the Code of Practice for, and why is it important?

The European Union (EU) Code of Practice for General Purpose AI is an upcoming set of voluntary rules designed to help developers prove they are complying with the AI Act. It is a temporary measure while the EU develops in-depth standards on artificial intelligence (AI), but it will inspire the future standards the EU makes.

In August of 2024 the Open Source Initiative (OSI) applied to take part in the drafting process. We were accepted and have been working since then to make sure these new rules were written with Open Source in mind.

What was wrong with the Code of Practice?

Overall, the Code of Practice proposes sensible practices to reduce the risks AI could pose. AI systems that comply with the OSI’s Open Source AI Definition already follow most of these rules, but there were a couple of elements in the Code of Practice that would have been impossible for Open Source developers to implement.

In particular, previous drafts of the Code of Practice mandated acceptable use policies, and a prohibition of certain uses of the AI system. But having these restrictions conflicts with the freedom of use that Open Source guarantees, in particular, rule 6 of the Open Source Definition (No Discrimination Against Fields of Endeavor). This would mean developers would have to choose between complying with the Code of Practice or being Open Source.

This is bad both for developers, and for the EU: companies might not consider Open Source solutions if they aren’t sure they can comply with the law, which could delay or even halt the development and deployment of Open Source AI systems in Europe. This would be particularly unfortunate, as Open Source AI systems are by nature the most transparent and accessible. Additionally, the proposed restrictions can’t actually be enforced; restrictions could be removed by a downstream user, and acceptable use policies could simply be ignored.

How the OSI worked to fix it

In the first round of feedback, we raised our concerns about the incompatibility of the Code of Practice with Open Source principles. After we saw no improvement in the second draft, we teamed up with like-minded organizations, and wrote a letter to the chairs, highlighting the issue. On the 11th of March the third draft of the Code of Practice was released, which made acceptable use policies optional, and exempted Open Source AI from prohibiting certain downstream uses.

We welcome these changes as they will allow Open Source AI developers to adhere to the Code of Practice, removing a serious barrier to Open Source AI development in Europe!

What’s next?

The Open Source Initiative remains committed to ensuring Open Source is taken into account when new rules like these are being made. We’ll continue to follow the drafting process and ensure these changes aren’t reversed. We’ll also continue to fight the openwashing of some AI models such as Meta’s Llama, while working to educate and inform lawmakers about Open Source and its benefits.

If you like what we are doing, consider donating! Your support makes our work possible!

Dịch: Lê Trung Nghĩa

letrungnghia.foss@gmail.com