โลกของวิดีโอที่สร้างโดย AI กำลังพัฒนาอย่างรวดเร็ว โดยมีเครื่องมืออย่าง Sora AI ของ OpenAI และ Veo 3 ของ Google ที่ผลักดันขอบเขตของสิ่งที่เป็นไปได้ โมเดลเหล่านี้สามารถสร้างเนื้อหาวิดีโอที่มีความละเอียดสมจริงและมีจินตนาการจากข้อความที่ให้ ทำให้เกิดความเป็นไปได้ที่น่าตื่นเต้นสำหรับศิลปิน ผู้สร้างภาพยนตร์ และนักเล่าเรื่อง อย่างไรก็ตาม ขณะเดียวกันกับศักยภาพในการสร้างสรรค์ก็เกิดปัญหาสำคัญคือ การเซนเซอร์ โมเดล AI ถูกฝึกจากชุดข้อมูลขนาดใหญ่ และนักพัฒนาจัดทำมาตรการเพื่อป้องกันการสร้างเนื้อหาที่เป็นอันตราย มีอคติ หรือไม่เหมาะสม การเข้าใจขอบเขตและลักษณะของการเซนเซอร์ในโมเดลเหล่านี้เป็นสิ่งสำคัญในการชื่นชมข้อจำกัดและผลกระทบทางจริยธรรมของสื่อที่สร้างโดย AI บทความนี้สำรวจการวิเคราะห์เปรียบเทียบกลไกการเซนเซอร์ที่ใช้โดย Sora AI และ Veo 3 โดยศึกษาเปรียบเทียบความคล้ายคลึง ความแตกต่าง และผลกระทบโดยรวมต่อเสรีภาพในการสร้างสรรค์ที่มอบให้กับผู้ใช้
Anakin AI
การเซนเซอร์ในวิธีการสร้างวิดีโอด้วย AI ไม่ใช่เพียงการห้ามเรื่องหนึ่งเรื่องใดอย่างชัดเจน แต่บ่อยครั้งจะทำการบังคับใช้ผ่านการรวมกันของเทคนิคที่มุ่งลดความเสี่ยง เทคนิครวมถึง: การกรองคำสำคัญ โดยที่โมเดลถูกออกแบบมาเพื่อละเว้นข้อความที่มีคำที่ละเอียดอ่อนหรือต้องห้าม อัลกอริธึมการกลั่นกรองเนื้อหา ซึ่งวิเคราะห์วิดีโอที่สร้างขึ้นสำหรับการละเมิดนโยบายที่กำหนดไว้ล่วงหน้า และการจำกัดความสามารถของโมเดลในการแสดงภาพบุคคล สถานที่ หรือเหตุการณ์เฉพาะ ในท้ายที่สุด เป้าหมายคือการป้องกันการสร้างดีฟเฟคเกอร์ การพูดจาแสดงความเกลียดชัง ข้อมูลผิดพลาด และเนื้อหาที่เป็นอันตรายอื่นๆ บริษัทสร้างวิดีโอด้วย AI อย่าง OpenAI และ Google ลงทุนอย่างมากในกลไกการเซนเซอร์เหล่านี้เพื่อปฏิบัติตามกฎหมายและรักษาความไว้วางใจจากสังคม เนื่องจากศักยภาพในการนำเทคโนโลยีเหล่านี้ไปใช้ในทางที่ไม่เหมาะสมมีนัยสำคัญและอาจก่อให้เกิดผลกระทบในทางลบ บริษัทสร้างวิดีโอด้วย AI มีความท้าทายในการถ่วงดุลระหว่างความปลอดภัยและเสรีภาพในการสร้างสรรค์ และวิธีการเฉพาะในการเซนเซอร์จะแตกต่างกันไปในแต่ละโมเดล AI
Sora ซึ่งเป็นผลิตภัณฑ์ของ OpenAI มีความสอดคล้องกับความมุ่งมั่นของบริษัทในการพัฒนา AI อย่างรับผิดชอบ กลไกการเซนเซอร์ของมันน่าจะคล้ายคลึงกับที่ใช้ในผลิตภัณฑ์อื่นๆ ของ OpenAI เช่น DALL-E 3 และ ChatGPT นั่นหมายความว่ามีวิธีการหลายชั้นที่เกี่ยวข้องกับการกรองข้อความ การวิเคราะห์ภาพ และการกลั่นกรองผลลัพธ์ ตัวอย่างเช่น ข้อความที่กล่าวถึงบุคคลทางการเมือง กลุ่มประชากรที่ละเอียดอ่อน หรือการใช้ความรุนแรงมีแนวโน้มสูงที่จะถูกติดธงและถูกปฏิเสธล่วงหน้า นอกจากนี้ วิดีโอที่สร้างขึ้นก็อาจต้องเผชิญภายใต้การวิเคราะห์อัตโนมัติสำหรับเนื้อหาที่ละเมิดข้อกำหนดการให้บริการของ OpenAI เช่น การพูดจาแสดงความเกลียดชัง การรังแก หรือการแสดงพฤติกรรมผิดกฎหมาย รายละเอียดของกลไกเหล่านี้ไม่ได้มีการเปิดเผยอย่างละเอียดสาธารณะ เนื่องจากการเปิดเผยเหล่านี้อาจทำให้กลุ่มที่ไม่ประสงค์ดีสามารถหลบเลี่ยงการป้องกันได้ อย่างไรก็ตาม จากประสบการณ์กับโมเดลอื่นๆ ของ OpenAI ก็คุ้มค่าที่จะเชื่อว่า Sora AI จะมีการควบคุมที่เข้มงวดเพื่อป้องกันการสร้างเนื้อหาที่เป็นอันตรายหรือไม่เหมาะสม
Google ในฐานะที่เป็นยักษ์ใหญ่ด้านเทคโนโลยีที่มีประสบการณ์มากมายในการกลั่นกรองเนื้อหาทั่วแพลตฟอร์มต่างๆ มีแนวโน้มที่จะใช้กลไกการเซนเซอร์ที่แข็งแกร่งใน Veo 3 เช่นเดียวกับกลยุทธ์ในโมเดล AI อื่นๆ และทั่วทั้งแพลตฟอร์มค้นหาและวิดีโอที่หลากหลาย พวกเขาน่าจะใช้ระบบที่ซับซ้อนในการกรองคำสำคัญ การวิเคราะห์เนื้อหา และการรายงานจากผู้ใช้ ระบบ SafeSearch ของ Google และระบบการกลั่นกรองเนื้อหาของ YouTube ให้ข้อมูลเชิงลึกเกี่ยวกับแนวทางของพวกเขา ซึ่งเน้นการลบเนื้อหาที่ชัดเจน การพูดจาแสดงความเกลียดชัง และข้อมูลที่เป็นอันตราย ดังนั้นเราจึงคาดว่า Veo 3 จะมีฟีเจอร์ที่คล้ายกัน ความแตกต่างระหว่าง Sora และ Veo 3 อาจอยู่ที่อัลกอริธึมและเกณฑ์ที่ใช้ในการตรวจจับและกรองเนื้อหาที่มีปัญหา บริษัทหนึ่งอาจให้ความสำคัญกับแง่มุมที่แตกต่างกันในด้านความปลอดภัยของเนื้อหา ซึ่งอาจทำให้เกิดความแตกต่างในประเภทของวิดีโอที่สร้างขึ้นและประเภทของคำเสนอที่สามารถทำได้สำเร็จ
แม้จะมีความพยายามที่สุดยอดจากนักพัฒนา ผู้ใช้ที่มุ่งมั่นมักจะหาช่องเพื่อเลี่ยงกลไกการเซนเซอร์ในโมเดล AI วิธีการทั่วไปคือ "การออกแบบข้อความ" ซึ่งเกี่ยวข้องกับการสร้างข้อความในลักษณะที่แนะนำเนื้อหาที่ต้องการโดยไม่กระตุ้นตัวกรองอย่างชัดเจน ตัวอย่างเช่น แทนที่จะขอวิดีโอที่แสดงการใช้ความรุนแรงโดยตรง ผู้ใช้สามารถบรรยายฉากที่แสดงถึงอันตรายและการกระทำ อีกเทคนิคหนึ่งคือการใช้การเปรียบเทียบและสัญลักษณ์เพื่อบอกถึงหัวข้อที่มีความละเอียดอ่อนโดยไม่ต้องกล่าวถึงมันอย่างชัดเจน ขณะที่เทคนิคการออกแบบข้อความเหล่านี้สามารถหลบหลีกการเซนเซอร์ได้บางครั้ง แต่ยังต้องการความคิดสร้างสรรค์และความเข้าใจลึกซึ้งเกี่ยวกับข้อจำกัดของโมเดล AI ที่เกี่ยวข้อง อย่างไรก็ตาม นักพยายามพัฒนาอยู่ตลอดเวลาเพื่อลดช่องโหว่ในระบบการเซนเซอร์ ทำให้มันกลายเป็นเกมแมวและหนูที่ต่อเนื่องระหว่างผู้ใช้และนักพัฒนา
แม้ว่าการเซนเซอร์จะจำเป็นเพื่อป้องกันการใช้ AI ในทางที่ผิด แต่มันจะสร้างข้อจำกัดในด้านการแสดงออกทางศิลปะ ไม่ว่าวิลเปลี่ยนที่อยากสำรวจธีมที่ละเอียดอ่อนหรือมีข้อโต้แย้งด้วยวิดีโอที่สร้างโดย AI อาจพบว่าตนเองถูกจำกัดโดยกลไกกรองและนโยบายการกลั่นกรองเนื้อหา เช่น ผู้สร้างภาพยนตร์อิสระที่ต้องการสร้างวิดีโอที่สำรวจความซับซ้อนของปัญหาสังคม เช่น ความยากจนหรือการเสพติด อาจมีความยากในการสร้างเนื้อหาที่เหมาะสมและสะท้อนถึงความเป็นจริง เนื่องจากข้อจำกัดในการแสดงฉากหรือบุคลิกภาพบางอย่าง ความท้าทายอยู่ที่การหาจุดสมดุลระหว่างการปกป้องผู้ใช้จากเนื้อหาที่เป็นอันตราย และการอนุญาตให้มีกาใช้ชีวิตทางศิลปะ การเซนเซอร์ที่เข้มงวดมากเกินไปอาจทำให้ความสร้างสรรค์ถูกปิดกั้น และป้องกันการสร้างวิดีโอ AI จากการเข้าสู่ศักยภาพเต็มที่ในฐานะสื่อของการสร้างสรรค์ทางศิลปะและการแสดงความคิดเห็นทางสังคม
ความโปร่งใสมีความสำคัญต่อการสร้างความไว้วางใจและการรับผิดชอบในการสร้างวิดีโอด้วย AI บริษัทอย่าง OpenAI และ Google ควรเปิดเผยเกี่ยวกับนโยบายการเซนเซอร์ของพวกเขา โดยชี้แจงประเภทของเนื้อหาที่ไม่อนุญาตและกลไกที่ใช้ในการบังคับใช้ข้อจำกัดเหล่านี้ ซึ่งจะช่วยให้ผู้ใช้เข้าใจข้อจำกัดของโมเดลและหลีกเลี่ยงการละเมิดโดยไม่ได้ตั้งใจของนโยบาย นอกจากนี้ ความโปร่งใสยังสามารถช่วยเสริมสร้างการสนทนาสาธารณะและการฟังคอมเมนต์เกี่ยวกับความมีประสิทธิภาพและความยุติธรรมของนโยบายเหล่านี้ การพูดคุยเกี่ยวกับความท้าทายและการแลกเปลี่ยนที่เกี่ยวข้องกับการเซนเซอร์สามารถช่วยปรับปรุงนโยบายและรับประกันว่าพวกเขาจะสร้างสมดุลที่ถูกต้องระหว่างความปลอดภัยและเสรีภาพในการสร้างสรรค์ บริษัทควรจัดหาช่องทางที่ชัดเจนสำหรับผู้ใช้ในการอุทธรณ์การตัดสินใจการกลั่นกรองเนื้อหาและรายงานความอคติที่อาจเกิดขึ้นในระบบ
การตัดสินใจว่าโมเดลใด "เซนเซอร์มากกว่า" เป็นเรื่องที่ท้าทายหากไม่มีการทดสอบที่ครอบคลุมและการเข้าถึงข้อมูลภายใน อย่างไรก็ตาม เราสามารถอนุมานความแตกต่างที่อาจเกิดขึ้นได้จากแนวทางโดยรวมของบริษัทเมื่อพูดถึงการพัฒนา AI และการกลั่นกรองเนื้อหา OpenAI ซึ่งมุ่งเน้นที่ความปลอดภัยและการปรับปกติอาจมีแนวโน้มที่จะใช้แนวทางที่อนุรักษ์นิยมมากขึ้นซึ่งมีการเซนเซอร์มากขึ้น ในขณะที่ Google ด้วยประสบการณ์ในการจัดการเนื้อหาที่หลากหลายบนแพลตฟอร์มต่างๆ อาจนำเสนอวิธีการที่มีความซับซ้อนมากขึ้นที่สร้างสมดุลระหว่างความปลอดภัยกับการแสดงออกทางความคิด สุดท้ายแล้ว ความแตกต่างในความรุนแรงอาจจะเล็กน้อย และอาจแตกต่างกันไปขึ้นอยู่กับประเภทของเนื้อหาที่ถูกสร้างขึ้น เนื่องจากทั้งสองบริษัทลงทุนอย่างลึกซึ้งในการรับประกันการใช้เทคโนโลยีของพวกเขาอย่างรับผิดชอบ ผู้ใช้ควรทดลองกับทั้งสองโมเดลเพื่อให้เข้าใจข้อจำกัดและความสามารถของพวกเขาได้ดีขึ้น
ผลกระทบของการเซนเซอร์ต่างกันไปตามกรณีการใช้งานที่ตั้งใจของเครื่องมือสร้างวิดีโอ AI ในการใช้งานเชิงสร้างสรรค์อย่างสูง เช่น การสร้างภาพยนตร์หรือการแสดงออกทางศิลปะ การเซนเซอร์อาจรู้สึกจำกัดมากขึ้น โดยเฉพาะเมื่อสำรวจหัวข้อที่ซับซ้อนหรือละเอียดอ่อน ศิลปินต้องเดินทางผ่านข้อจำกัดของโมเดลอย่างระมัดระวังและค้นหาวิธีการสร้างสรรค์ในการแสดงออกของพวกเขาโดยไม่ละเมิดนโยบายเนื้อหา ในทางกลับกัน ในบางการใช้งานเชิงพาณิชย์ เช่น การตลาดหรือการฝึกอบรมบริษัท การเซนเซอร์อาจไม่เป็นปัญหาใหญ่ กรณีการใช้งานเหล่านี้มักเกี่ยวข้องกับการสร้างเนื้อหาที่ค่อนข้างตรงไปตรงมาและไม่มีข้อถกเถียงซึ่งมีโอกาสน้อยที่จะกระตุ้นตัวกรองของโมเดล บริษัทควรพิจารณากรณีการใช้งานที่ตั้งใจอย่างรอบคอบและเลือกโมเดล AI ที่ดีที่สุดสำหรับความต้องการและข้อกำหนดในการปฏิบัติตามของพวกเขา
เมื่อเทคโนโลยีการสร้างวิดีโอด้วย AI ก้าวหน้า กลไกการเซนเซอร์จะมีแนวโน้มที่จะซับซ้อนและปรับตัวได้มากขึ้น โมเดลในอนาคตอาจใช้เทคนิค AI ที่ก้าวหน้ามากขึ้นในการวิเคราะห์ความละเอียดอ่อนของเนื้อหาและระบุการละเมิดกฎระเบียบด้วยความถูกต้องมากขึ้น นักพัฒนาน่าจะก้าวข้ามการกรองคำสำคัญที่ง่ายและพัฒนาเทคนิครายละเอียดมากขึ้น นอกจากนี้ นโยบายการเซนเซอร์อาจมีการปรับปรุงให้เป็นส่วนบุคคลมากขึ้น โดยคำนึงถึงประวัติของผู้ใช้ สถานที่ และปัจจัยอื่นๆ เพื่อตั้งระดับการจำกัดให้เหมาะสม อย่างไรก็ตาม นี่ก็ยังก่อให้เกิดข้อกังวลทางจริยธรรมเกี่ยวกับความเป็นอันตรายและการเลือกปฏิบัติ ด้วยอนาคต ที่มีการเน้นความสำคัญในส่วนของผู้ใช้และความสามารถในการกำหนดนโยบายการเซนเซอร์ให้สอดคล้องกับค่านิยมและความชอบส่วนบุคคล
ความพึ่งพาอาศัยในกระบวนการกลั่นกรองเนื้อหาอัตโนมัติก่อให้เกิดคำถามทางจริยธรรมที่มีนัยสำคัญ เป็นสิ่งสำคัญที่เราจะต้องรักษาเครื่องมือ AI ให้เป็นกลางที่สุดโดยไม่มีการส่งเข้ามาในแบบการเมืองฝั่งซ้าย/ฝั่งขวาทั้งสิ้น เพื่อให้การพัฒนาเครื่องมือสร้างวิดีโอด้วย AI รวมทั้งมีนักสังคมศาสตร์ ผู้กำหนดจริยธรรม นักวิจัยและสาธารณชนเข้ามามีส่วนร่วมในการพัฒนา การสนทนาอย่างเปิดเผยเหล่านี้สามารถช่วยให้มั่นใจว่านโยบายการเซนเซอร์มีความสอดคล้องกับค่านิยมของสังคมและส่งเสริมความคิดสร้างสรรค์อย่างรับผิดชอบในปัจจัยด้านนี้ที่พัฒนาอย่างรวดเร็ว เมื่อเทคโนโลยี AI ยังคงพัฒนา ความจำเป็นในการมีแนวทางทางจริยธรรมและกรอบการควบคุมจะมีความสำคัญมากขึ้นเรื่อยๆ
