Blog FOSS by Lê Trung Nghĩa

https://letrungnghia.mangvn.org

Viết là suy nghĩ: Nghịch lý của các mô hình ngôn ngữ lớn (LLM)

Viết là suy nghĩ: Nghịch lý của các mô hình ngôn ngữ lớn (LLM)

Writing is Thinking: The Paradox of Large Language Models

May 20, 2025 by opencontent

Theo: https://opencontent.org/blog/archives/7753

Bài được đưa lên Internet ngày: 20/05/2025

Tuần trước, tôi đã có cơ hội tuyệt vời để phát biểu tại Hội nghị thượng đỉnh AI thường niên lần thứ 3 tại UNC Charlotte. Toàn bộ sự kiện thật tuyệt vời và nhóm tổ chức thì thật tuyệt vời. Bài phát biểu chính của tôi không được ghi âm, vì vậy tôi nghĩ mình sẽ đăng thành nhiều bài đăng trên blog. Bài đăng này là bài đầu tiên trong loạt bài đó và phần này của bài phát biểu có tiêu đề Viết là suy nghĩ.

David McCullough đã nói, “Viết là suy nghĩ. Viết tốt là suy nghĩ rõ ràng. Đó là lý do tại sao việc này lại khó khăn đến vậy… Chúng ta đều biết câu nói cũ, ‘Tôi sẽ viết suy nghĩ của mình ra giấy.’ Có điều gì đó ở cây bút giúp tập trung não bộ theo cách mà không có thứ gì khác có thể làm được.”

Bạn có đồng ý không?

Rõ ràng là Plato không đồng ý. Chúng ta thường nghe trong các cuộc tranh luận về AI rằng Plato nghĩ rằng chữ viết, nếu nó trở nên phổ biến, sẽ đẩy xã hội thụt lùi thay vì tiến lên. Nhưng bất cứ khi nào chúng ta nghe những bản tóm tắt gián tiếp về bài viết của ai đó, tôi nghĩ chúng ta nên đọc bản gốc (hoặc ít nhất là bản dịch của bản gốc). Vì vậy, đây là một phần có liên quan từ Phaedrus (và vâng, tôi thực sự đã đọc trích dẫn mở rộng cho những người tham gia Hội nghị thượng đỉnh):

(Socrates nói với Phaedrus): Vâng, tôi nghe nói rằng ở Naucratis ở Ai Cập có một vị thần cổ đại của nơi đó, loài chim thiêng của vị thần này là loài mà người ta gọi là Ibis, trong khi tên của chính vị thần đó là Theuth. Ông là người đầu tiên phát hiện ra số và phép tính, hình học và thiên văn học, cũng như bản nháp và xúc xắc, và tất nhiên là chữ viết. Vào thời điểm đó, Thamus là Vua của toàn bộ Ai Cập khắp các thành phố lớn của vùng thượng lưu. Người Hy Lạp gọi thành phố này là Thebes của Ai Cập và họ gọi Thamus là Ammon. Theuth đã đến gặp vị Vua này để khoe những khám phá của mình, và ông đề xuất rằng chúng nên được truyền lại cho những người Ai Cập còn lại, và Thamus hỏi rằng mỗi người trong số họ có lợi ích gì, và khi Theuth giải thích điều này, ông đã khen ngợi bất cứ điều gì có vẻ đáng giá và chỉ trích bất cứ điều gì không. Bây giờ Thamus được cho là đã bày tỏ nhiều quan điểm cả tích cực và tiêu cực với Theuth về từng kỹ năng, vì vậy một bản tường thuật về những điều này sẽ khá dài. Nhưng khi bắt đầu viết, Theuth nói, “Thưa Đức Vua, ngành học này sẽ giúp người Ai Cập thông thái hơn và có trí nhớ tốt hơn, vì tôi đã khám phá ra một loại thuốc tiên cho cả trí nhớ và trí tuệ.” Nhà vua trả lời, “Ôi Theuth thông minh nhất, một người có thể phát minh ra những kỹ năng này, nhưng một người khác có thể đánh giá lợi ích hoặc tác hại của chúng đối với những người sẽ sử dụng chúng. Và bạn, với tư cách là cha đẻ của chữ viết, vì thái độ tích cực của bạn, bây giờ đang nói rằng nó làm ngược lại những gì nó có thể làm. Môn học này sẽ tạo ra sự lãng quên trong tâm hồn của những người học nó, vì họ sẽ không sử dụng trí nhớ. Vì niềm tin của họ vào chữ viết, họ sẽ được nhắc nhở bên ngoài bằng các dấu hiệu xa lạ, chứ không phải từ bên trong chính họ bằng chính họ. Vì vậy, bạn đã khám phá ra một loại thuốc tiên không phải của trí nhớ mà là của sự nhắc nhở. Bạn sẽ cung cấp cho các học viên một vẻ ngoài của trí tuệ, không phải là trí tuệ thực sự. Vì đã nghe rất nhiều mà không có bất kỳ lời dạy nào, họ sẽ có vẻ cực kỳ hiểu biết, trong khi phần lớn họ là những người thiếu hiểu biết, và là những người khó gần vì họ đã đạt được một trí tuệ có vẻ như nhưng không phải là người khôn ngoan.

Vậy ai đúng – Plato hay McCullough? Viết là một lời nguyền hay một ân huệ? Thực ra không có nhiều xung đột giữa hai tuyên bố đó. Plato đang nói về tác động của việc viết lên trí nhớ, trong khi McCullough đang nói về tác động của nó lên tư duy. Mặc dù có liên quan, nhưng đây chắc chắn là hai điều khác nhau. (Nhưng việc đặt câu hỏi "ai đúng?" và sau đó dành thời gian cho những người tham gia đã thúc đẩy một số cuộc trò chuyện nhóm nhỏ đầy năng lượng.)

Câu hỏi mà những người viện dẫn Plato trong các cuộc trò chuyện về AI ngụ ý là, "những gì chúng ta từ bỏ có giá trị nhiều hơn hay ít hơn những gì chúng ta đã có?" Hay nói cách khác, chúng ta có đánh đổi tất cả những gì chúng ta đã giành được từ việc viết trong hàng thiên niên kỷ để lấy lại khả năng ghi nhớ cá nhân phi thường mà tổ tiên chúng ta đã có không?

Gần đây, tôi đã suy ngẫm về những gì tôi nghĩ là "nghịch lý của các mô hình ngôn ngữ lớn". Nghịch lý của các mô hình ngôn ngữ lớn là bạn phải viết cho chúng để chúng viết cho bạn. Chúng ta đều quen thuộc với cụm từ "đầu vào rác, đầu ra rác". Nếu bạn viết một lời nhắc mơ hồ, không rõ ràng, không có tổ chức và không tập trung, mô hình sẽ cung cấp cho bạn đầu ra với những đặc điểm tương tự. Khi một người sử dụng LLM lần đầu tiên và có trải nghiệm kém ("Tôi biết rằng sự cường điệu về AI này chỉ là sự cường điệu quá mức!"), lý do thường là do lời nhắc kém từ phía họ chứ không phải do điểm yếu của mô hình. Sử dụng LLM cho hầu hết các nhiệm vụ, trừ những nhiệm vụ tầm thường nhất, đòi hỏi phải có văn bản rõ ràng, cụ thể, tập trung, có tổ chức tốt, v.v. Và nhiệm vụ bạn muốn LLM thực hiện càng phức tạp thì văn bản của bạn càng phải hiệu quả và mạnh mẽ.

Bây giờ, các giảng viên có thể ngắt lời ở đây để hỏi, "Nếu đúng như vậy, thì làm sao học sinh của tôi - nhiều người trong số họ là những cây bút non nớt - có thể sử dụng AI để tạo ra bài viết 'A' cho các bài tập viết của tôi?" Tôi thích câu hỏi này. Hãy dành một chút thời gian để suy ngẫm về câu trả lời cho câu đố này.

Câu trả lời, tất nhiên, là học sinh đang sử dụng bài tập của bạn làm lời nhắc của họ! Và - hy vọng - hướng dẫn cho bài tập của bạn được viết theo cách rõ ràng, cụ thể, tập trung và không mơ hồ.

Do đó, nếu bạn có một học sinh nói điều gì đó như, "Tại sao tôi cần nắm vững các khái niệm cốt lõi của khóa học này? AI có thể làm tất cả công việc của tôi cho tôi ngay bây giờ và sau khi tốt nghiệp!" câu trả lời là: “Sau khi bạn tốt nghiệp, sẽ không có ai ở đó để viết lời nhắc cho bạn – bạn sẽ phải tự viết chúng. Khi bạn cố gắng sử dụng AI vào ngày đầu tiên trong công việc mới của mình, bạn sẽ phải hiểu đủ rõ về lĩnh vực này để biết phải yêu cầu AI làm gì – sử dụng đúng từ vựng, theo đúng cách, với đủ sự rõ ràng và cụ thể để có được kết quả chất lượng. Và nếu bạn không có kiến thức và kỹ năng cần thiết để viết hiệu quả, ngày đầu tiên của bạn trong công việc có thể là ngày cuối cùng của bạn.”

Nghĩ về tầm quan trọng của việc viết trong tương lai – cụ thể là hiểu rằng đó là một kỹ năng quan trọng để sử dụng hiệu quả LLM – khiến tôi tự hỏi liệu chúng ta có thấy một phương thức viết mới được dạy trong các khóa học Viết tiếng Anh của mình không. Trong lớp Viết tiếng Anh ngày nay, chúng ta thường học về cách viết giải thích, cách viết thuyết phục, cách viết mô tả, v.v. Có lẽ phương thức mới này sẽ được gọi là “viết tạo sinh (generative writing)?” Dù được gọi là gì, thì viết cho LLM cũng khác với các phương thức viết khác. Đầu tiên, đối tượng là khác – chúng ta viết cho LLM chứ không phải con người. Và thứ hai, chúng ta tham gia vào một số sự kết hợp mới lạ giữa phân tích quy trình và viết thuyết phục, cố gắng giải thích cho mô hình những gì chúng ta muốn nó làm và thực sự khiến nó làm điều đó. Viết tạo sinh không chỉ khác với bất kỳ loại viết nào khác mà chúng ta đang dạy hiện nay, mà còn có lẽ là phương thức viết có giá trị kinh tế nhất mà một sinh viên có thể học được ngày nay.

Tôi nghĩ gọi đây là “viết tạo sinh” hữu ích hơn nhiều so với gọi nó là “kỹ thuật nhắc” (prompt engineering), vì cách trước kết nối chúng ta với một khối lượng lớn các tài liệu, truyền thống và sự uyên thâm trong giảng dạy, trong khi cách sau thì không.

Last week I had the amazing opportunity to speak at the 3rd Annual AI Summit at UNC Charlotte. The entire event was wonderful and the organizing team were terrific. My keynote wasn’t recorded, so I thought I would serialize it across a series of blog posts. This post is the first in that series, and this section of the talk was titled Writing Is Thinking.

David McCullough said, “Writing is thinking. To write well is to think clearly. That’s why it’s so hard… We all know the old expression, ‘I’ll work my thoughts out on paper.’ There’s something about the pen that focuses the brain in a way that nothing else does.”

Do you disagree?

Apparently, Plato disagreed. We frequently hear in the debates about AI that Plato thought that writing, if it became widespread, would move society backward instead of forward. But any time we hear these secondhand summaries of someone’s writing, I think it behooves us to go read the original (or, at least a translation of the original). So here’s a relevant section from Phaedrus (and yes, I actually read the extended quote to the Summit participants):

(Socrates to Phaedrus): Well, I heard that at Naucratis in Egypt there was a certain ancient god of that place, whose sacred bird is the one they call the Ibis, while the name of the divine being himself was Theuth. He was first to discover number and calculation, geometry and astronomy, and also draughts and dice, and of course writing. Now at that time, Thamus was King of all Egypt round about the great city of the upper region. The Greeks call this city Egyptian Thebes and they refer to Thamus as Ammon. Theuth went to this King to show off his discoveries, and he proposed that they should be passed on to the rest of the Egyptians, and Thamus asked what benefit each of them possessed, and as Theuth explained this he praised whatever seemed worthwhile and criticised whatever did not. Now Thamus is said to have expressed many views both positive and negative to Theuth about each of the skills, so an account of these would be quite lengthy. But when he came to writing, Theuth said, “This branch of learning, O King, will make the Egyptians wiser and give them better memories, for I have discovered an elixir of both memory and wisdom.” The King replied, “Oh most ingenious Theuth, one man is able to invent these skills, but a different person is capable of judging their benefit or harm to those who will use them. And you, as the father of writing, on account of your positive attitude, are now saying that it does the opposite of what it is able to do. This subject will engender forgetfulness in the souls of those who learn it, for they will not make use of memory. Because of their faith in writing, they will be reminded externally by means of unfamiliar marks, and not from within themselves by means of themselves. So you have discovered an elixir not of memory but of reminding. You will provide the students with a semblance of wisdom, not true wisdom. For having heard a great deal without any teaching they will seem to be extremely knowledgeable, when for the most part they are ignorant, and are difficult people to be with because they have attained a seeming wisdom without being wise.

So who is right – Plato or McCullough? Is writing a curse or a boon? There’s actually not as much conflict between the two statements as there might appear. Plato is talking about writing’s effect on memory, while McCullough is talking about its effect on thinking. While related, these are definitely two different things. (But asking the “who’s right?” question and then giving participants some time catalyzed some energetic small group conversations.)

The question implied by those who invoke Plato in conversations about AI is, “was what we gave up worth more or less than what we got in exchange?” Or in other words, would we trade all that we’ve gained from writing over the millennia to regain access to the prodigious individual capacities for memory our ancestors had?

Recently I’ve been pondering what I think of as “the paradox of large language models.” The paradox of large language models is that you have to write for them in order to get them to write for you. We’re all familiar with the phrase “garbage in, garbage out.” If you write a prompt that is vague, ambiguous, disorganized, and unfocused, the model will give you output with those same characteristics. When a person uses an LLM for the first time and has a poor experience (“I knew this AI hype was all overblown exaggeration!”), the reason is often attributable to poor prompting on their part as opposed to a weakness in the model. Using an LLM for all but the most trivial tasks requires writing that is clear, specific, focused, well-organized, etc. And the more complex the task you want the LLM to perform, the more effective and powerful your writing has to be.

Now, instructors might interrupt here to ask, “If that’s true, then how are my students – many of whom are such immature writers – able to use AI to produce ‘A’ work on my writing assignments?” I love this question. Take a moment to reflect on what the answer to this riddle might be.

The answer, of course, it that students are using your assignments as their prompts! And – hopefully – the instructions for your assignments are written in a manner that is clear, specific, focused, and unambiguous.

Consequently, if you have a student who says something like, “Why do I need to master the core concepts of this course? AI can do all my work for me both now and after graduation!” the answer is: “After you graduate, there won’t be anyone there to write your prompts for you – you’ll have to write them yourself. When you try to use AI the first day on your new job you’ll have to understand the domain well enough to know what to ask the AI to do – using the right vocabulary, in the right way, with enough clarity and specificity to get a quality result. And if you don’t have the knowledge and skills you need to write that effectively, your first day on the job might be your last.”

Thinking about the importance of writing going forward – specifically, understanding that it’s a critical skill for the effective use of LLMs – makes me wonder if we’re not going to see a new mode of writing taught in our English Composition courses. In an English Composition class today we often learn about expository writing, persuasive writing, descriptive writing, etc. Maybe this new mode will be called “generative writing?” Whatever it’s called, writing for LLMs is different from other modes of writing. First, the audience is different – we’re writing for LLMs and not humans. And second, we’re engaged in some novel combination of process analysis and persuasive writing, trying to explain to the model what we want it do and actually get it to do it. Not only is generative writing unlike any other kind of writing we teach currently, it’s also probably the most economically valuable mode of writing a student could learn today.

I think calling this “generative writing” is far more useful than calling it “prompt engineering,” since the former connects us to a rich body of literatures and traditions and scholarship of teaching, while the latter does not.

Dịch: Lê Trung Nghĩa

letrungnghia.foss@gmail.com

Tác giả: Nghĩa Lê Trung