ChatGPT và Giáo dục Mở

ChatGPT and Open Education

March 6, 2023. Artificial Intelligence, Fiscal 2022-2023, General, Homepage, Open Education

Post by Clint Lalonde, acting director, Open Education, BCcampus

Theo: https://bccampus.ca/2023/03/06/chatgpt-and-open-education/

Bài được đưa lên Internet ngày: 06/03/2023

Tháng trước, đồng nghiệp BCcampus của tôi tại Learning + Teaching Gwen Nguyen đã viết một bài đăng trên blog về ChatGPT, xem xét một số tác động của ChatGPT đối với việc học tập và giảng dạy. Tôi muốn tiếp tục xem xét ChatGPT và các công nghệ AI tạo sinh, nhưng lần này thông qua lăng kính của giáo dục mở.

Là một tổ chức cung cấp tài trợ và hỗ trợ cho các sáng kiến về tài nguyên giáo dục mở (OER) tại B.C., chúng tôi đã xem xét một số lợi ích và ý nghĩa tiềm tàng của các công cụ trí tuệ nhân tạo (AI) tạo sinh như ChatGPT và việc sử dụng nội dung do AI tạo ra như một phần của quy trình tạo OER. Ví dụ, chúng tôi cung cấp những hướng dẫn nào cho những người được cấp OER về việc sử dụng các công cụ AI tạo sinh trong các khoản tài trợ tạo lập OER của mình? Các công cụ AI tạo sinh có thể giúp tạo OER hiệu quả hơn không? Ai kiểm soát bản quyền đối với nội dung do các công cụ AI tạo sinh tạo ra và bạn có thể áp dụng giấy phép mở cho nội dung do AI tạo ra không? Nội dung do thế hệ công cụ AI tạo sinh hiện tại tạo ra chính xác đến mức nào? Công cụ AI đã được đào tạo như thế nào, loại ngữ liệu nào được sử dụng để đào tạo công cụ và những loại sai lệch nào có thể có trong kết quả tùy thuộc vào dữ liệu đào tạo được sử dụng để đào tạo công cụ?

Không còn nghi ngờ gì nữa, các công cụ tạo sinh như ChatGPT có tiềm năng to lớn trong việc tiết kiệm thời gian và công sức cho những người sáng tạo OER. Với một vài lời nhắc được thiết kế khéo léo, ChatGPT có thể tạo ra hàng nghìn từ về một chủ đề, tạo ra hàng chục câu hỏi mẫu có thể đưa vào sách giáo khoa mở để học sinh có thể tự đánh giá việc học của mình, tạo kế hoạch bài học và bài tập, lời nhắc câu hỏi có thể được sử dụng làm lời nhắc thảo luận không đồng bộ trong các diễn đàn thảo luận — về cơ bản là bất kỳ loại tài liệu học tập nào mà một nhà giáo dục có thể nghĩ ra. Ai mà không thích một công cụ giúp công việc dễ dàng hơn? ChatGPT chắc chắn có khả năng làm điều đó cho những người tạo ra OER.

Đối với các nhà giáo dục mở làm việc với OER, việc xác định ai sở hữu bản quyền của các tác phẩm do AI tạo ra là rất quan trọng vì theo định nghĩa, OER là tài liệu không bị ràng buộc bởi các hạn chế pháp lý có thể ngăn cản việc tái sử dụng, chia sẻ, phân phối lại và tùy chỉnh các tác phẩm có bản quyền. Trong khi một số người đang sử dụng sự nổi lên của AI tạo sinh để đặt câu hỏi về tính hợp lệ của bản thân bản quyền, thì việc ai sở hữu bản quyền khi một tác phẩm do AI tạo ra vẫn là một vùng xám, cả về mặt pháp lý và đạo đức.

Về mặt pháp lý ở Canada, có vẻ như nội dung do AI tạo ra không thuộc phạm vi của luật bản quyền Canada và do đó không được bảo vệ bản quyền và thuộc phạm vi công cộng, theo phân tích của Victoria Fricke thuộc McGill Law. Tuy nhiên, điều này có thể thay đổi nhanh chóng khi luật pháp quốc tế thay đổi và thích ứng. Như luật sư Tom Lebrun của Quebec lưu ý, "Nhưng vì Canada là một con cá nhỏ trong một ao bản quyền lớn, nên nhiều quyết định về tình trạng pháp lý của AI tạo ra có thể được giải quyết ở nước ngoài".

Về mặt đạo đức, tình hình phức tạp hơn. Ví dụ, liệu người đầu tư thời gian và năng lượng để tạo ra các lời nhắc nhằm tạo ra đầu ra có thể yêu cầu bản quyền đối với đầu ra đó không? Các lập trình viên tạo ra các mô hình và thu thập dữ liệu để đào tạo AI có yêu cầu quyền sở hữu không? Còn hàng nghìn tác giả và nghệ sĩ ban đầu tạo ra các tác phẩm được sử dụng để đào tạo AI thì sao? Họ có yêu cầu một số hình thức sở hữu đối với những gì được tạo ra không?

Điểm cuối cùng này đã trở thành một vấn đề đặc biệt gây tranh cãi vì các nguồn dữ liệu đào tạo cụ thể được sử dụng để đào tạo AI tạo sinh thường không được biết đến hoặc không được các nhà phát triển của hầu hết các công cụ AI tạo sinh minh bạch. Điều này đã dẫn đến sự phản đối của nhiều người trong cộng đồng nghệ thuật thị giác khi họ thấy phong cách độc đáo của họ bị bắt chước trong các đầu ra của nghệ thuật do AI tạo ra và họ cho rằng nghệ thuật có bản quyền của họ đã bị sử dụng mà không có sự cho phép của họ.

Đối với các nhà giáo dục mở, điều này trái ngược với lý do ban đầu chúng ta sử dụng OER. Nhiều nhà giáo dục mở chọn OER vì có các quyền hợp pháp cho phép tái sử dụng hợp pháp tài liệu của người khác — tài liệu mà người sáng tạo đã hào phóng và tự do cung cấp thông qua việc áp dụng các giấy phép mở cho tài liệu đó. Ý nghĩ sử dụng tác phẩm không được người sáng tạo tặng miễn phí cho cộng đồng là sai đối với nhiều nhà giáo dục mở và trái ngược với sự hào phóng vốn có trong cộng đồng OER.

Việc thiếu minh bạch xung quanh nguồn tài liệu đào tạo cũng là một vấn đề quan trọng khi chúng ta nói về việc sử dụng AI tạo sinh để tạo tài liệu học tập, vì tài liệu học tập dựa trên các nguồn có thể xác định được và thông tin đã được xác thực. Hãy tưởng tượng một cuốn sách giáo khoa không trích dẫn nguồn. Làm thế nào để bạn xác định được nội dung có hợp lệ hay không? Khi bạn tạo bằng ChatGPT, nguồn thông tin không rõ ràng và ChatGPT được biết là chỉ trích dẫn khi bạn yêu cầu trích dẫn tác phẩm của mình. Việc thiếu ghi chú nguồn này và dấu vết học thuật cực kỳ quan trọng về nguồn gốc của thông tin là thành phần nền tảng để đảm bảo bạn đang làm việc với thông tin hợp lệ và có thật. Cho đến nay, ChatGPT vẫn đang thất bại thảm hại trong việc chứng minh khả năng hiểu biết của mình.

Tuy nhiên, có thể lập luận rằng đây là nơi cần đến những con người hiểu biết, và vai trò của một tác giả OER sử dụng các công cụ AI tạo ra trở nên giống với vai trò của một biên tập viên có công việc chính là xác minh các sự kiện và đầu ra do ChatGPT cung cấp — rằng các văn bản do ChatGPT tạo ra trở thành bản thảo đầu tiên và sau đó con người là người hiệu đính. Chuyên gia về chủ đề con người trở thành bộ lọc để đánh giá xem nội dung có đáng tin cậy hay không và sau đó tiến hành hiệu đính nội dung. Có lẽ các công cụ như ChatGPT báo hiệu sự khởi đầu của một cuộc cách mạng hiệu đính trong việc tạo ra OER, trong đó vai trò của người tạo OER không bắt đầu bằng việc tạo ra nội dung mà bằng cách tạo ra các lời nhắc chính xác để tạo bản thảo đầu tiên của nội dung, sau đó dành phần lớn thời gian để hiệu đính và xác thực nội dung.

Ngoài ra còn có vấn đề về sự thiên vị trong hệ thống. Khi Kieran Snyder của Fast Company yêu cầu ChatGPT viết phản hồi đánh giá hiệu suất cho các loại vai trò công việc khác nhau, những gì ChatGPT đưa ra lại đầy rẫy các ví dụ về ngôn ngữ phân biệt giới tính và phân biệt chủng tộc. Mặc dù dữ liệu đào tạo chính xác được sử dụng để đào tạo AI tạo sinh vẫn chưa được biết, chúng ta có thể yên tâm cho rằng dữ liệu này được thu thập từ Internet, một nơi chứa đựng những không gian vừa tốt đẹp vừa tàn bạo và hủy diệt. Có một từ viết tắt cũ trong máy tính là GI/GO, có nghĩa là rác vào/rác ra. Nếu có sự thiên vị trong tập dữ liệu đào tạo, thì sẽ có sự thiên vị trong kết quả đầu ra.

Cuối cùng, tôi nghĩ có hai vấn đề bắt buộc phải ghi nhớ khi chúng ta vật lộn với những tác động của ChatGPT trong giáo dục mở. Đầu tiên, các công cụ hiện tại sẽ không phải là công cụ của tương lai. Nếu công nghệ đã dạy chúng ta bất cứ điều gì, thì đó là các công cụ được tinh chỉnh và thay đổi theo thời gian, và các công cụ AI tạo sinh trong tương lai sẽ trông như thế nào sẽ rất khác so với những gì chúng ta đang thấy ngày nay. Ví dụ, các công cụ tìm kiếm rất khác biệt vào năm 2023 so với năm 2003, vì vậy một số lời chỉ trích hiện nay xung quanh các vấn đề về độ chính xác và sự quy kết có thể không còn là vấn đề trong tương lai khi AI tạo sinh trở nên được tinh chỉnh hơn.

Thứ hai, chúng ta không thể bỏ qua các công cụ AI tạo sinh và hy vọng chúng sẽ biến mất. AI đã dần dần xâm nhập vào công nghệ của chúng ta trong nhiều thập kỷ và các công cụ AI tạo sinh chỉ là hiện thân mới nhất. Nó mới và mới lạ hiện nay, vì vậy có sự chú ý cao hơn. Nhưng nó sẽ không mới và mới lạ mãi mãi. Sớm thôi, những công cụ này sẽ chỉ là một phần của các công cụ tạo ra kiến thức mà chúng ta đang sử dụng. Microsoft đã tích hợp ChatGPT vào công cụ tìm kiếm của mình và Google đang tung ra phiên bản AI tạo sinh của riêng mình, được gọi là Bard, để tăng cường công cụ tìm kiếm của mình. Điều quan trọng là tất cả chúng ta đều chú ý đến những gì đang diễn ra trong không gian AI tạo sinh và tiếp cận các công cụ này giống như chúng ta làm với bất kỳ công nghệ giáo dục nào khác — với con mắt phê phán và đạo đức cân bằng giữa ưu và nhược điểm để đánh giá liệu công cụ này có giúp chúng ta đạt được mục tiêu của mình với tư cách là nhà giáo dục mở hay không.

Tìm hiểu thêm:

• Hộp công cụ sư phạm kỹ thuật số: Hãy kết bạn với ChatGPT

Bạn có biết không? Chủ đề của hội thảo ETUG mùa xuân này là: Thiết kế học tập tương lai: Tích hợp kiến thức số, công nghệ toàn diện và AI. Lời kêu gọi đề xuất đã mở! Truy cập trang web ETUG để tìm hiểu thêm.

Last month my BCcampus colleague in Learning + Teaching Gwen Nguyen wrote a blog post about ChatGPT, examining some of the implications of ChatGPT on learning and teaching. I would like to continue looking at ChatGPT and generative AI technologies, but this time through the lens of open education.

As an organization that provides funding and support for open educational resource (OER) initiatives in B.C., we have been considering some of the potential benefits and implications of generative artificial intelligence (AI) tools like ChatGPT and the use of AI-generated content as part of the OER creation process. For example, what guidelines do we provide our OER grantees around the use of generative AI tools in our OER creation grants? Can generative AI tools make creating OER more efficient? Who controls the copyright for content created by generative AI tools, and can you apply an open license to AI-generated content? How accurate is the content created by the current generation of generative AI tools? How has the AI tool been trained, what kind of corpus was used to train it, and what kinds of biases may be present in the results depending on the training data used to train the tool?

There is no doubt generative tools like ChatGPT hold great potential to save time and effort for OER creators. With a few well-crafted prompts, ChatGPT can generate thousands of words on a subject, create dozens of sample questions that could be included in an open textbook for students to be able to self-evaluate their own learning, create lesson plans and assignments, question prompts that can be used as asynchronous discussion prompts in discussion forums — basically any type of learning material an educator can think of. Who doesn’t like a tool that makes work easier? ChatGPT certainly has the capability to do that for people who create OER.

For open educators working with OER, who owns the copyright of AI-generated works is important to determine as, by definition, OER are materials unencumbered by legal restrictions that may prevent the reuse, sharing, redistribution, and adaptation of copyrightable works. While some are using the rise of generative AI to question the validity of copyright itself, who owns the copyright when a work is created by AI is still a gray area, both legally and ethically.

Legally in Canada, it appears AI-generated content does not fall under the Canadian copyright act and is therefore not copyrightable and in the public domain, according to analysis from Victoria Fricke of McGill Law. However, this could change quickly as international laws change and adapt. As Quebec lawyer Tom Lebrun notes, “But because Canada is a little fish in a big copyright pond, many decisions about the legal status of generative AI may be settled abroad.”

Ethically, the situation is more complex. For example, should the person who invests time and energy crafting prompts that generate the output be able to make a copyright claim to it? Do the programmers who created the models and gathered the data that trained the AI have an ownership claim? What about the thousands of authors and artists who originally created works that were used to train the AI? Do they have a claim to some form of ownership over what gets created?

This final point has become an especially contentious issue as the specific sources of the training data used to train the generative AI is often unknown or is not made transparent by the developers of most generative AI tools. This has led to pushback by many in the visual arts community who see their unique styles mimicked in the outputs of AI-generated art and who argue their copyrighted art has been used without their permission.

For open educators, this runs counter to the very reason we use OER in the first place. Many open educators choose OER because there are legal permissions that allow for the ethical reuse of other people’s material — material the creators have generously and freely made available through the application of open licenses to it. The thought of using work that has not been freely gifted to the commons by the creator feels wrong for many open educators and is antithetical to the generosity inherent in the OER community.

The lack of transparency around the source of the training material is also a crucial issue when we talk about using generative AI to create learning materials, as learning materials rely on identifiable sources and validated information. Imagine a textbook that did not cite sources. How would you determine if the content is valid? When you create with ChatGPT, the source of the information is not apparent, and ChatGPT is known to just make up citations when you ask it to cite its work. This missing attribution and the all-important academic trail to where information comes from is a foundational component to ensure you are working with valid and factual information. So far ChatGPT is failing miserably at making visible how it knows what it knows.

However, it can be argued this is where knowledgeable humans are needed, and the role of an OER author using generative AI tools becomes more like that of an editor whose primary job is to verify the facts and outputs given to it by ChatGPT — that texts created by ChatGPT become the first draft and that humans are then the revisors. The human subject-matter expert becomes the filter to judge whether the content is credible and then work to revise the content. Perhaps tools like ChatGPT signal the start of a revise revolution in OER creation, where the role of an OER creator starts not with creating content but with creating the correct prompts to generate a first draft of content, then spends the bulk of their time revising and validating the content.

There is also the issue of bias present in the system. When Fast Company’s Kieran Snyder asked ChatGPT to write performance review feedback for different types of job roles, what ChatGPT came up with was riddled with examples of sexist and racist language. While the exact training data being used to train generative AI is not known, we can safely assume it has been harvested from the internet, a place that contains spaces that are both good and beautiful as well as brutal and destructive. There is an old computing acronym GI/GO, which means garbage in/garbage out. If there is bias present in the training corpus, there will be bias present in the outputs.

Finally, there are two issues I think are imperative to keep in mind as we grapple with the implications of ChatGPT in open education. First, the current tools will not be the future tools. If technology has taught us anything, it is tools are refined and changed over time, and what generative AI tools will look like in the future will be vastly different from what we are seeing today. Search engines, for example, are vastly different in 2023 than they were in 2003, so some criticisms today around issues of accuracy and attribution may not be issues in the future as generative AI becomes more refined.

Second, we cannot ignore generative AI tools and hope they will go away. AI has been slowly working its way into our tech for decades, and generative AI tools are only the latest incarnation. It is new and novel now, so there is heightened attention. But it will not be new and novel forever. Soon these tools will just be part of the knowledge-creation tools we already use. Microsoft has already integrated ChatGPT into its search engines, and Google is rolling out its own version of generative AI, called Bard, to augment its search engine. It is important we all pay attention to what is happening in the generative AI space and approach these tools like we do any other education technology — with a critical and ethical eye that balances the pros and cons to assess whether the tool helps us achieve our goals as open educators.

Learn more:

• Digital Pedagogy Toolbox: Let’s Make Friends with ChatGPT

Did you know? The theme of this Spring’s ETUG workshop is: Futureproof Learning Design: The Integration of Digital Literacy, Inclusive Tech, and AI. The Call for Proposals is open now! Visit the ETUG website to learn more.

Dịch: Lê Trung Nghĩa

letrungnghia.foss@gmail.com