Quyền lực của video do AI tạo ra đang nhanh chóng tiến hóa, với các công cụ như Sora AI của OpenAI và Veo 3 của Google đang đẩy ranh giới của những gì có thể. Những mô hình này có thể tạo ra nội dung video chân thực và sáng tạo từ các lệnh văn bản, mở ra những khả năng thú vị cho nghệ sĩ, nhà làm phim và người kể chuyện. Tuy nhiên, bên cạnh tiềm năng sáng tạo là vấn đề quan trọng về kiểm duyệt. Các mô hình AI được đào tạo trên các tập dữ liệu khổng lồ, và các nhà phát triển triển khai các biện pháp bảo vệ để ngăn chặn việc tạo ra nội dung có hại, thiên lệch hoặc không thích hợp. Hiểu được mức độ và bản chất của việc kiểm duyệt trong những mô hình này là rất quan trọng để đánh giá giới hạn của chúng và các ảnh hưởng đạo đức của phương tiện do AI tạo ra. Bài viết này đi sâu vào một phân tích so sánh về các cơ chế kiểm duyệt được Sora AI và Veo 3 sử dụng, khám phá những điểm tương đồng, khác biệt và ảnh hưởng tổng thể đến tự do sáng tạo cho người dùng.
Anakin AI
Kiểm duyệt trong sáng tạo video AI không chỉ đơn giản là cấm hoàn toàn một số chủ đề nhất định. Thay vào đó, nó thường được thực hiện thông qua một sự kết hợp của các kỹ thuật nhằm giảm thiểu rủi ro. Những kỹ thuật này bao gồm: lọc từ khóa, trong đó mô hình được thiết kế để từ chối các lệnh chứa các thuật ngữ nhạy cảm hoặc bị cấm; các thuật toán điều chỉnh nội dung, phân tích video được tạo ra để phát hiện các vi phạm các chính sách đã định; và các giới hạn về khả năng của mô hình trong việc mô tả các cá nhân, địa điểm hoặc sự kiện cụ thể. Cuối cùng, mục tiêu là ngăn ngừa việc tạo ra nội dung deepfake, phát ngôn thù hận, thông tin sai lệch và các hình thức nội dung có hại khác. Các công ty tạo video AI như OpenAI và Google đầu tư đáng kể vào các cơ chế kiểm duyệt này để tuân thủ các quy định pháp luật và duy trì niềm tin của công chúng, vì tiềm năng lạm dụng các công nghệ này là đáng kể và có thể gây ra những hậu quả rộng lớn. Sự cân bằng giữa an toàn và tự do sáng tạo là một thách thức liên tục, và cách tiếp cận cụ thể đối với kiểm duyệt thay đổi giữa các mô hình AI khác nhau.
Sora, là sản phẩm của OpenAI, phù hợp với cam kết đã được công ty xác lập về phát triển AI có trách nhiệm. Các cơ chế kiểm duyệt của nó có thể tương tự như những gì được sử dụng trong các sản phẩm khác của OpenAI như DALL-E 3 và ChatGPT. Điều này có nghĩa là một cách tiếp cận nhiều lớp bao gồm lọc lệnh, phân tích hình ảnh và điều chỉnh đầu ra. Ví dụ, các lệnh đề cập đến nhân vật chính trị, nhóm nhân khẩu nhạy cảm, hoặc bạo lực có khả năng cao bị gắn cờ và từ chối ngay từ đầu. Hơn nữa, các video được tạo ra có thể sẽ bị phân tích tự động để tìm nội dung vi phạm các điều khoản dịch vụ của OpenAI, như phát ngôn thù hận, quấy rối, hoặc mô tả các hoạt động trái phép. Các chi tiết của những cơ chế này không được công bố công khai chi tiết, bởi vì việc tiết lộ chúng có thể dễ dàng cho các tác nhân xấu vượt qua các biện pháp bảo vệ. Tuy nhiên, dựa trên kinh nghiệm với các mô hình khác của OpenAI, có thể hợp lý để giả định rằng Sora AI sẽ có các kiểm soát nghiêm ngặt để ngăn chặn việc tạo ra nội dung có hại hoặc không phù hợp.
Google, với tư cách là một tập đoàn công nghệ lớn với kinh nghiệm phong phú trong việc điều chỉnh nội dung trên nhiều nền tảng, có khả năng sẽ triển khai các cơ chế kiểm duyệt mạnh mẽ tương tự trong Veo 3. Tương tự như chiến lược của họ trong các mô hình AI khác và trên các nền tảng tìm kiếm và video của họ, họ có khả năng sử dụng một hệ thống phức tạp về lọc từ khóa, phân tích nội dung và báo cáo từ người dùng. Các hệ thống SafeSearch của Google và điều chỉnh nội dung của YouTube cung cấp cái nhìn sâu về cách tiếp cận của họ, nhấn mạnh việc loại bỏ nội dung khiêu dâm, phát ngôn thù hận và thông tin sai lệch có hại. Do đó, chúng ta có thể mong đợi Veo 3 sẽ chia sẻ các tính năng tương tự. Sự khác biệt giữa Sora và Veo 3 có thể nằm ở các thuật toán và ngưỡng cụ thể được sử dụng để phát hiện và lọc nội dung gây tranh cãi. Một công ty có thể ưu tiên các khía cạnh khác nhau của an toàn nội dung, điều này có thể dẫn đến sự khác biệt trong loại video được tạo ra và các loại lệnh cụ thể được thực hiện thành công.
Mặc dù những nỗ lực tốt nhất của các nhà phát triển, người dùng kiên quyết vẫn thường tìm ra cách để vượt qua các cơ chế kiểm duyệt trong các mô hình AI. Điều này thường được thực hiện thông qua "kỹ thuật lệnh", liên quan đến việc tạo ra các lệnh theo cách mà ngụ ý nội dung mong muốn mà không kích hoạt các bộ lọc một cách rõ ràng. Ví dụ, thay vì yêu cầu trực tiếp một video mô tả bạo lực, một người dùng có thể mô tả một cảnh với sự nguy hiểm và hành động ngụ ý. Một kỹ thuật khác là sử dụng phép ẩn dụ và biểu tượng để ám chỉ đến các chủ đề nhạy cảm mà không đề cập trực tiếp đến chúng. Mặc dù những kỹ thuật kỹ thuật lệnh này có thể đôi khi vượt qua được kiểm duyệt, nhưng chúng cũng yêu cầu sự sáng tạo và hiểu biết sâu sắc về những giới hạn của mô hình AI cơ bản. Tuy nhiên, các nhà phát triển đang liên tục làm việc để cải thiện các cơ chế kiểm duyệt của họ và bịt kín các kẽ hở, làm cho đây trở thành một trò chơi mèo vờn chuột liên tục giữa người dùng và nhà phát triển.
Mặc dù kiểm duyệt là cần thiết để ngăn chặn việc lạm dụng sáng tạo video AI, nhưng nó không thể tránh khỏi việc tạo ra các giới hạn trong việc biểu đạt sáng tạo. Các nghệ sĩ muốn khám phá các chủ đề nhạy cảm hoặc gây tranh cãi thông qua video do AI tạo ra có thể thấy mình bị hạn chế bởi các bộ lọc và chính sách điều chỉnh nội dung. Ví dụ, một nhà làm phim độc lập muốn tạo ra một video khám phá sự phức tạp của các vấn đề xã hội như nghèo đói hoặc nghiện ngập có thể gặp khó khăn trong việc tạo ra nội dung chân thực và có tác động do các giới hạn trong việc mô tả những kịch bản hoặc nhân vật nhất định. Thách thức nằm ở việc tìm kiếm sự cân bằng giữa việc bảo vệ người dùng khỏi nội dung có hại và cho phép khám phá và biểu đạt nghệ thuật. Kiểm duyệt quá mức có thể ngăn chặn sự sáng tạo và ngăn chặn việc sáng tạo video AI đạt được tiềm năng tối đa của nó như một phương tiện cho sự đổi mới nghệ thuật và bình luận xã hội.
Tính minh bạch là rất quan trọng để xây dựng niềm tin và trách nhiệm trong sáng tạo video AI. Các công ty như OpenAI và Google nên minh bạch về các chính sách kiểm duyệt của họ, nêu rõ các loại nội dung bị cấm và các cơ chế được sử dụng để thi hành các hạn chế này. Điều này sẽ cho phép người dùng hiểu được những giới hạn của các mô hình và tránh các vi phạm không mong muốn đối với các chính sách. Hơn nữa, tính minh bạch cũng có thể tạo điều kiện cho cuộc đối thoại công khai và phản hồi về hiệu quả và tính công bằng của các chính sách này. Thảo luận công khai về những thách thức và tác động liên quan đến kiểm duyệt có thể giúp tinh chỉnh các chính sách và đảm bảo rằng chúng đạt được sự cân bằng hợp lý giữa an toàn và tự do sáng tạo. Các công ty cũng nên cung cấp các kênh rõ ràng cho người dùng khiếu nại các quyết định điều chỉnh nội dung và báo cáo các thiên lệch tiềm ẩn trong hệ thống.
Xác định mô hình nào "kiểm duyệt nhiều hơn" là một thách thức mà không có thử nghiệm toàn diện và quyền truy cập vào thông tin nội bộ. Tuy nhiên, chúng ta có thể suy ra những khác biệt tiềm năng dựa trên các phương pháp tổng thể của các công ty đối với phát triển AI và điều chỉnh nội dung. OpenAI, với sự chú trọng vào an toàn và sự phù hợp, có thể nghiêng theo các chính sách bảo thủ hơn có xu hướng kiểm duyệt nhiều hơn. Ngược lại, Google, với kinh nghiệm quản lý các nội dung đa dạng trên nhiều nền tảng khác nhau, có thể áp dụng một cách tiếp cận tinh vi hơn, cân bằng giữa an toàn và biểu đạt sáng tạo. Cuối cùng, sự khác biệt thực sự về mức độ có thể rất tinh tế, và nó có thể thay đổi tùy thuộc vào loại nội dung cụ thể được tạo ra, vì cả hai công ty đều đầu tư sâu sắc vào việc đảm bảo sử dụng có trách nhiệm công nghệ của họ. Người dùng nên thử nghiệm với cả hai mô hình để có hiểu biết tốt hơn về các giới hạn và khả năng tương ứng của chúng.
Tác động của kiểm duyệt thay đổi tùy thuộc vào mục đích sử dụng của công cụ tạo video AI. Trong các ứng dụng sáng tạo cao, như làm phim hoặc biểu hiện nghệ thuật, kiểm duyệt có thể cảm thấy hạn chế hơn, đặc biệt là khi khám phá các chủ đề phức tạp hoặc nhạy cảm. Các nghệ sĩ phải điều hướng cẩn thận các giới hạn của mô hình và tìm kiếm những cách sáng tạo để thể hiện tầm nhìn của mình mà không vi phạm các chính sách nội dung. Mặt khác, trong một số ứng dụng thương mại, như marketing hoặc đào tạo doanh nghiệp, kiểm duyệt có thể ít quan ngại hơn. Những trường hợp sử dụng này thường liên quan đến việc tạo ra nội dung tương đối đơn giản và không gây tranh cãi, ít có khả năng kích hoạt các bộ lọc của mô hình. Các công ty nên xem xét cẩn thận các trường hợp sử dụng dự kiến và lựa chọn mô hình AI phù hợp nhất với nhu cầu nội dung và yêu cầu tuân thủ của họ.
Khi công nghệ tạo video AI tiến bộ, các cơ chế kiểm duyệt có khả năng trở nên tinh vi và thích ứng hơn. Các mô hình tương lai có thể sử dụng các kỹ thuật AI tiên tiến hơn để phân tích các sắc thái của nội dung và xác định các vi phạm chính sách với độ chính xác cao hơn. Các nhà phát triển có khả năng sẽ đi xa hơn so với lọc từ khóa đơn giản và phát triển các kỹ thuật theo ngữ cảnh hơn. Hơn nữa, các chính sách kiểm duyệt có thể trở nên cá nhân hóa hơn, xem xét lịch sử, vị trí của người dùng, và các yếu tố khác để điều chỉnh mức độ hạn chế tương ứng. Tuy nhiên, điều này cũng dấy lên mối quan ngại đạo đức về khả năng thiên lệch và phân biệt. Trong tương lai, có thể sẽ đặt trọng tâm lớn hơn vào kiểm soát của người dùng và khả năng tùy chỉnh các chính sách kiểm duyệt để phù hợp với các giá trị và sở thích cá nhân.
Sự phụ thuộc ngày càng tăng vào điều chỉnh nội dung tự động đặt ra nhiều câu hỏi đạo đức quan trọng. Điều quan trọng là chúng ta cần giữ cho các công cụ AI trở nên trung lập càng nhiều càng tốt mà không đưa vào các chương trình nghị sự chính trị thiên lệch nặng nề vào những mô hình này. Việc tham gia của nhiều bên liên quan vào phát triển các công cụ tạo video AI, bao gồm các nhà đạo đức, nhà hoạch định chính sách, học giả và công chúng, là rất quan trọng. Những cuộc đối thoại mở này có thể giúp đảm bảo rằng các chính sách kiểm duyệt được căn cứ vào các giá trị xã hội và thúc đẩy đổi mới có trách nhiệm trong lĩnh vực đang phát triển nhanh chóng này. Khi công nghệ AI tiếp tục tiến bộ, nhu cầu về các hướng dẫn đạo đức vững chắc và khung quy định sẽ trở nên ngày càng quan trọng.
