ChatGPT, chatbot AI hội thoại được phát triển bởi OpenAI, đã thu hút thế giới với khả năng tạo ra văn bản giống như con người, trả lời câu hỏi và thậm chí viết các loại nội dung sáng tạo khác nhau. Tuy nhiên, bất chấp những khả năng ấn tượng của mình, ChatGPT cũng có những hạn chế. Những hạn chế này không xuất phát từ ác ý hay nỗ lực chủ động để kìm hãm tiềm năng, mà từ một sự kết hợp của các ràng buộc kỹ thuật, các cân nhắc đạo đức và bản chất của cách mà các mô hình ngôn ngữ lớn được đào tạo và triển khai. Hiểu rõ những hạn chế này là quan trọng đối với cả người dùng và nhà phát triển, nhằm quản lý kỳ vọng và thúc đẩy sự đổi mới hơn nữa trong lĩnh vực AI. Nhiều yếu tố góp phần vào những giới hạn hiện có. Từ độ phức tạp tính toán và khả năng tạo ra nội dung có hại, đến các yếu tố chi phí và các ràng buộc do chính dữ liệu đào tạo đặt ra.
Anakin AI
Một trong những lý do chính khiến ChatGPT có giới hạn là chi phí tính toán khổng lồ liên quan đến việc vận hành một mô hình ngôn ngữ lớn như vậy. ChatGPT được cung cấp năng lượng bởi một mạng nơ-ron với hàng tỷ tham số. Mỗi khi người dùng gửi một yêu cầu, mô hình cần thực hiện các phép tính phức tạp trên các tham số này để tạo ra một phản hồi mạch lạc và phù hợp. Điều này đòi hỏi một sức mạnh tính toán đáng kể, phần cứng chuyên biệt (như GPU), và một lượng năng lượng lớn. Hãy tưởng tượng như việc cố gắng giải một khối Rubik với hàng triệu ô – số lượng kết hợp khả thi quá lớn làm cho vấn đề trở nên tốn kém về mặt tính toán. Việc hạn chế độ dài của các yêu cầu đầu vào và đầu ra được tạo ra là một chiến lược quan trọng để quản lý những yêu cầu tính toán này. Nếu không có những giới hạn này, hệ thống sẽ trở nên chậm chạp và tốn kém đến mức không thể vận hành; khiến cho nó không thể tiếp cận với hầu hết người dùng.
Ngoài chi phí tính toán, một yếu tố quan trọng khác đằng sau những giới hạn của ChatGPT là nhu cầu về an toàn và các cân nhắc đạo đức. Bởi vì ChatGPT được đào tạo trên một tập dữ liệu khổng lồ của văn bản và mã được khai thác từ internet, nó không thể tránh khỏi việc học cách tạo ra nội dung có thể gây hại, thiên lệch hoặc gây nhầm lẫn. Để giảm thiểu rủi ro này, OpenAI đã thực hiện nhiều biện pháp an toàn khác nhau, bao gồm các bộ lọc và hệ thống kiểm soát, nhằm ngăn chặn mô hình tạo ra phản hồi không phù hợp. Hạn chế độ dài của các yêu cầu, đặc biệt là những yêu cầu có thể khuyến khích mô hình tạo ra nội dung có vấn đề, giúp dễ dàng phát hiện và ngăn chặn việc tạo ra các đầu ra có hại, chẳng hạn như phát ngôn thù hận, thông tin sai lệch hoặc nội dung khiêu dâm. Mặc dù những biện pháp bảo vệ này là thiết yếu cho sự phát triển AI có trách nhiệm, nhưng chúng cũng đặt ra các ràng buộc đối với khả năng của mô hình.
Cụ thể, việc kiểm soát độ dài đầu ra là một cơ chế quan trọng để giúp ngăn chặn việc lây lan thông tin sai lệch. Hãy xem xét tình huống mà một người dùng yêu cầu ChatGPT viết một bài báo tin tức về một thông tin sai lệch, chẳng hạn như "Vắc xin gây ra bệnh tự kỷ." Nếu mô hình tạo ra một bài viết dài, có vẻ như được nghiên cứu kỹ lưỡng, lặp lại thông tin sai lệch này, nó có thể dẫn đến hậu quả nghiêm trọng, có thể dẫn đến sự do dự về vắc xin và ảnh hưởng đến sức khỏe cộng đồng. Bằng cách hạn chế độ dài đầu ra, khả năng tạo ra một câu chuyện thuyết phục mà có vẻ như đúng sự thật được giảm đáng kể, từ đó giảm thiểu rủi ro lây lan tin tức giả. Điều này đặc biệt quan trọng trong một thế giới mà thông tin di chuyển với tốc độ của ánh sáng, và khả năng thiệt hại từ thông tin sai lệch là rất lớn.
Mặc dù OpenAI cố gắng giảm thiểu thiên kiến trong ChatGPT, nhưng vẫn có sự công nhận rằng các thiên kiến được học từ dữ liệu đào tạo vẫn có thể vô tình xuất hiện trong các đầu ra của mô hình. Việc rút ngắn các đầu ra được tạo ra bởi mô hình là một chiến lược để giảm thiểu khả năng xuất hiện thiên kiến rõ ràng, vì một phản hồi ngắn hơn có thể cung cấp ít cơ hội hơn cho thiên kiến phát sinh. Giả sử ChatGPT được yêu cầu đề xuất các nghề nghiệp cho một người giả định mà chỉ được mô tả qua giới tính. Nếu không có giới hạn về độ dài đầu ra, mô hình có thể tạo ra những danh sách dài với các công việc bị chiếm ưu thế bởi nam hoặc nữ. Tuy nhiên, với các giới hạn được đặt ra, phản hồi cần phải được điều chỉnh, do đó tạo cơ hội để giới thiệu những lựa chọn đa dạng hơn.
Mặc dù ChatGPT có vẻ giao tiếp rất tự nhiên, nhưng nó không thực sự "nhớ" các lượt trước trong một cuộc hội thoại theo cách mà con người làm. Thay vào đó, nó có một "cửa sổ ngữ cảnh" hạn chế, đề cập đến lượng văn bản mà nó có thể xem xét từ cuộc hội thoại hiện tại khi tạo ra một phản hồi. Cửa sổ ngữ cảnh này thường bao gồm một vài lượt gần nhất, nhưng nó không phải là vô hạn, và mô hình cuối cùng sẽ "quên" những phần trước của cuộc thảo luận. Hạn chế độ dài của mỗi yêu cầu và phản hồi giúp giữ cho các cuộc hội thoại trong khoảng cửa sổ ngữ cảnh này, đảm bảo rằng mô hình có thể giữ liên quan đến cuộc tương tác đang diễn ra. Nếu cuộc nói chuyện trở nên quá dài hoặc phức tạp, mô hình có thể bắt đầu mất dấu ngữ cảnh và tạo ra phản hồi không nhất quán hoặc vô nghĩa.
Ví dụ, nếu bạn có một cuộc hội thoại dài với ChatGPT về một chủ đề cụ thể, như lịch sử của Đế chế La Mã, và sau đó đột nhiên hỏi một câu hỏi về một chi tiết đã được nhắc đến gần đầu cuộc hội thoại, mô hình có thể không thể nhớ chính xác, ngay cả khi nó có vẻ hiểu được lúc đó. Điều này là do phần trước của cuộc hội thoại có thể đã rơi ra ngoài cửa sổ ngữ cảnh. Để bù đắp cho sự hạn chế này, người dùng cần phải cẩn thận cung cấp ngữ cảnh cần thiết trong các yêu cầu của họ, đặc biệt khi đề cập đến thông tin đã được thảo luận trước đó trong cuộc hội thoại.
Để sử dụng ChatGPT một cách hiệu quả, điều quan trọng là phải nhận thức được những hạn chế của cửa sổ ngữ cảnh này và điều chỉnh phong cách giao tiếp của bạn cho phù hợp. Nếu bạn cần đề cập đến điều gì đã được nói trước đó trong cuộc hội thoại, thường thì sẽ rất hữu ích nếu nhắc nhở mô hình về ngữ cảnh liên quan. Chẳng hạn, bạn có thể nói: "Trước đây, chúng ta đã thảo luận về sự sụp đổ của Đế chế La Mã phương Tây. Bạn có thể cho tôi biết thêm về vai trò của nền kinh tế trong sự sụp đổ đó không?" Điều này giúp đảm bảo rằng mô hình có thông tin cần thiết để tạo ra một phản hồi chính xác và liên quan. Cũng quan trọng là thiết kế các ứng dụng sử dụng ChatGPT theo cách giảm thiểu các yêu cầu đối với cửa sổ ngữ cảnh, chẳng hạn như chia nhỏ các nhiệm vụ phức tạp thành các bước nhỏ hơn, dễ quản lý hơn.
Một hạn chế thực tiễn khác là chi phí cho việc liên tục đào tạo và điều chỉnh các mô hình ngôn ngữ khổng lồ này. Các thuật toán trong một mô hình ngôn ngữ yêu cầu các tập dữ liệu khổng lồ và có thể bị thay đổi đáng kể khi thêm dữ liệu mới. Để cải thiện hiệu suất và giải quyết các vấn đề như thiên kiến, tạo ra nội dung có hại và thiếu kiến thức cụ thể, OpenAI thường xuyên điều chỉnh ChatGPT trên dữ liệu mới, đây là một quy trình tốn kém tài nguyên. Việc điều chỉnh này cần đến các nhà khoa học dữ liệu, kỹ sư chuyên gia và tài nguyên tính toán lớn. Để quản lý các chi phí này, kích thước của các bản cập nhật điều chỉnh và tần suất triển khai của chúng được xem xét cẩn thận. Các giới hạn về độ dài có thể giúp giữ cho mô hình ở một kích thước có thể được điều chỉnh trong thời gian hợp lý.
Việc thu thập và chuẩn bị dữ liệu đào tạo chất lượng cao là một khoản chi phí lớn trong việc điều chỉnh một mô hình ngôn ngữ. Dữ liệu được sử dụng để đào tạo ChatGPT đến từ nhiều nguồn khác nhau, bao gồm sách, bài viết, trang web và các văn bản và mã công khai khác. Tuy nhiên, không phải tất cả dữ liệu này đều phù hợp cho việc đào tạo, vì vậy nó cần được xem xét và lọc cẩn thận. Quy trình này thường liên quan đến các người ghi chú con người gán nhãn cho dữ liệu để chỉ ra tính liên quan, độ chính xác và các thiên kiến tiềm ẩn. Việc thu thập và gán nhãn dữ liệu cần thiết cho việc điều chỉnh AI rất tốn kém, vì nó yêu cầu kiến thức chuyên môn cụ thể.
Quy trình thực tế của việc đào tạo một mô hình ngôn ngữ lớn như ChatGPT yêu cầu truy cập vào hạ tầng tính toán mạnh mẽ, bao gồm phần cứng chuyên dụng như GPU và TPU. Những GPU này tiêu tốn rất nhiều năng lượng, đặc biệt khi các mô hình khá lớn. OpenAI duy trì một cụm lớn các máy này, được sử dụng để đào tạo và điều chỉnh mô hình. Chi phí cho hạ tầng này, bao gồm cả điện cần thiết để vận hành, là rất lớn. Khi các mô hình phát triển về kích thước, các yêu cầu tính toán và chi phí liên quan tiếp tục tăng, khiến việc tối ưu hóa các thuật toán đào tạo và hạ tầng là cần thiết để cải thiện hiệu quả.
Dữ liệu đào tạo được sử dụng cho ChatGPT đến từ nhiều nguồn khác nhau, bao gồm cả tài liệu có bản quyền. Mặc dù OpenAI cố gắng đảm bảo rằng việc sử dụng dữ liệu này là hợp pháp và đạo đức, nhưng vẫn tồn tại các nguy cơ về bản quyền. Nếu ChatGPT tạo ra các đầu ra gần giống với nội dung có bản quyền, điều đó có thể dẫn đến các thách thức pháp lý. Để giảm thiểu rủi ro này, OpenAI có thể đã thực hiện các bộ lọc hoặc hạn chế ngăn chặn mô hình tạo ra các bản sao y nguyên văn của nội dung có bản quyền. Điều này đặc biệt liên quan khi người dùng tạo nội dung sáng tạo, chẳng hạn như câu chuyện hoặc thơ, với ChatGPT. Việc tuân thủ luật bản quyền bảo vệ các nhà sáng tạo là rất quan trọng.
Việc phát hiện vi phạm bản quyền bởi một mô hình là thách thức về mặt kỹ thuật. Các mô hình ngôn ngữ học cách nhận ra các mẫu và tạo ra nội dung dựa trên xác suất các từ xuất hiện với các từ liên quan. Để tránh các lo ngại về vi phạm bản quyền, một số giới hạn có thể được đặt ra để ngăn chặn sự lặp lại trực tiếp của nội dung văn bản lớn.
AI thường cố gắng ở trong phạm vi của "Việc Sử Dụng Hợp Lý", nơi một lượng nhỏ tài liệu có bản quyền được sử dụng và sửa đổi. Điều này có thể khó khăn khi một người cố gắng xây dựng một mô hình ngôn ngữ lớn cho nhiều mục đích khác nhau. Do đó, việc giữ giới hạn cho đầu ra hạn chế lượng đầu ra trông giống như tài liệu có bản quyền.
Khi công nghệ AI tiếp tục phát triển, có sự công nhận ngày càng tăng về nhu cầu thiết lập các tiêu chuẩn an toàn và đạo đức để đảm bảo rằng nó được phát triển và sử dụng một cách có trách nhiệm. Các chính phủ và tổ chức trên toàn thế giới đang làm việc để phát triển các quy định và hướng dẫn cho phát triển và triển khai AI, điều này có thể đặt thêm các ràng buộc cho khả năng của các mô hình như ChatGPT. Những tiêu chuẩn đang tiến hóa này có thể yêu cầu OpenAI thực hiện các giới hạn mới đối với chức năng của mô hình hoặc quyền truy cập vào một số loại thông tin nhất định. Khi bối cảnh pháp lý và quy định cho AI thay đổi, chắc chắn rằng ChatGPT và các mô hình ngôn ngữ khác sẽ cần phải điều chỉnh để tuân thủ các yêu cầu mới này.
