Deepfakes และสื่อสังเคราะห์อื่นๆ ซึ่งส่วนใหญ่สร้างขึ้นโดย เทคโนโลยี Generative AI กําลังเป็นที่รู้จักมากขึ้นเรื่อยๆ และปัจจุบันเป็นที่ยอมรับกันอย่างกว้างขวางว่าสื่อสังเคราะห์เป็นปัญหาสําหรับบุคคล องค์กร และสังคม
Deepfakes มีหลายรูปแบบ เช่น การออกกฎหมายซ้ํา การสลับใบหน้า และ Generative Adversarial Networks (GAN) สิ่งสําคัญคือต้องเข้าใจรูปแบบต่างๆ ของการโจมตี Deepfake เพื่อป้องกันการโจมตีเหล่านั้น
ปัญหาของ Generative AI เป็นเรื่องเร่งด่วนเป็นพิเศษเนื่องจาก ความถี่ของการโจมตีเหล่านี้กําลังเพิ่มขึ้น เนื่องจากการสร้างภาพสังเคราะห์ที่น่าเชื่อถือจะง่ายขึ้นและง่ายขึ้น เนื่องจาก Generative AI ยังคงก้าวหน้าในด้านความซับซ้อน การเข้าถึง และความสามารถในการปรับขนาด การเชื่อถือสิ่งที่เราเห็นและคนที่เราโต้ตอบด้วยทางออนไลน์จะยากขึ้น
ในบทความนี้ เราจะอธิบายโลกที่ซับซ้อนของการฉ้อโกงที่ใช้ AI เชิงกําเนิด และอธิบายวิธีการที่อยู่เบื้องหลังแต่ละประเภท
Generative AI คืออะไร?
Generative Artificial Intelligence (AI) หมายถึงอัลกอริทึมที่สามารถสร้างเนื้อหาใหม่ รวมถึงข้อความ รูปภาพ วิดีโอ หรือสื่ออื่นๆ เพื่อตอบสนองต่ออินพุตหรือข้อความแจ้งที่กําหนด บ่อยครั้งที่ใช้ประโยชน์จากเทคโนโลยี เช่น โครงข่ายประสาทเทียมและคอมพิวเตอร์วิทัศน์ Generative AI เรียนรู้จากรูปแบบและโครงสร้างจาก "ข้อมูลการฝึกอบรม" ที่มีอยู่เพื่อสร้างเนื้อหา ตัวอย่างเช่น "AI เชิงวิเคราะห์" ทําหน้าที่วิเคราะห์ข้อมูลที่มีอยู่และทําให้กระบวนการระบุรูปแบบหรือการคาดการณ์แนวโน้มเป็นไปโดยอัตโนมัติ ซึ่งอาจเป็นประโยชน์ในด้านต่างๆ เช่น ข้อมูลยาและสุขภาพ
Generative AI ได้จับ zeitgeist ทางเทคโนโลยี ด้วยความหวาดกลัวและการโต้เถียงเกี่ยวกับเครื่องมือต่างๆ เช่น Chat-GPT ในปริมาณที่เท่ากัน เครื่องมือเหล่านี้สามารถเร่งการสร้างเนื้อหาได้อย่างมาก แต่มีความกังวลอย่างแท้จริงเกี่ยวกับวิธีที่พวกเขาจะถูกอาชญากรติดอาวุธในการแข่งขันด้านอาวุธความปลอดภัยทางไซเบอร์ – สนับสนุนการฉ้อโกงและวิศวกรรมสังคม การบิดเบือนข้อมูล และอาชญากรรมทางไซเบอร์ผ่านเนื้อหาสังเคราะห์ที่บิดเบือน
นอกจากนี้ การเข้าถึงที่เพิ่มขึ้นของเครื่องมือ AI เชิงกําเนิด ในตลาดอาชญากรรมในฐานะบริการ หมายความว่าผู้โจมตีที่เข้าใจเทคโนโลยีน้อยกว่าสามารถเข้าถึงเครื่องมือที่ซับซ้อนเพื่อสร้างสื่อสังเคราะห์ได้ง่ายและราคาไม่แพง ตัวเลือกซอฟต์แวร์ที่มีเทคโนโลยีสูงสุดเมื่อวานนี้เป็นเรื่องธรรมดาเนื่องจากอุปสรรคทางเทคโนโลยีระเหยไป
จุดพิสูจน์ล่าสุดเกี่ยวกับคุณภาพของการปลอมแปลงที่สร้างโดย AI เหล่านี้ถูกนําเสนอใน การศึกษาที่จัดทําโดย Center for Strategic and International Studies ซึ่งบ่งชี้ว่าเราได้ "มาถึงจุดเปลี่ยนที่มนุษย์ไม่สามารถแยกแยะความแตกต่างระหว่างเนื้อหาดิจิทัลที่สร้างโดย AI กับเนื้อหาที่มนุษย์สร้างขึ้นอย่างมีความหมาย"
ในบทความนี้ เราจะเน้นไปที่ Generative AI ที่ใช้ในการสร้างภาพสังเคราะห์ รวมถึง Deepfake
ทําความเข้าใจการโจมตี Deepfake ประเภทต่างๆ
ลองใช้เวลาสักครู่เพื่อทําความเข้าใจรูปแบบการโจมตี AI เชิงกําเนิดบางรูปแบบ
การสลับใบหน้า: รูปแบบของสื่อสังเคราะห์ที่สร้างขึ้นโดยใช้อินพุตสองตัว พวกเขารวมวิดีโอที่มีอยู่หรือสตรีมแบบสดและซ้อนทับข้อมูลประจําตัวอื่นบนฟีดต้นฉบับแบบเรียลไทม์ ผลลัพธ์ที่ได้คือเอาต์พุตวิดีโอ 3 มิติปลอม ซึ่งรวมเข้าด้วยกันจากใบหน้ามากกว่าหนึ่งหน้า แต่ด้วยเทมเพลตไบโอเมตริกซ์ของบุคคลของแท้ที่ยังคงอยู่ในชั้นเชิง แม้ว่าความคล้ายคลึงทางสายตาจะใกล้เคียงกับผู้โจมตีก็ตาม การจับคู่ใบหน้าที่ไม่มีการป้องกันที่เพียงพออาจระบุผลลัพธ์ว่าเป็นบุคคลที่แท้จริง
การตรากฎหมายใหม่: หรือที่เรียกว่า "ปรมาจารย์หุ่นเชิด" Deepfakes ในเทคนิคนี้การแสดงออกทางสีหน้าและการเคลื่อนไหวของบุคคลในวิดีโอหรือภาพเป้าหมายจะถูกควบคุมโดยบุคคลในวิดีโอต้นฉบับ นักแสดงที่นั่งอยู่หน้ากล้องจะนําทางการเคลื่อนไหวและการเสียรูปของใบหน้าที่ปรากฏในวิดีโอหรือรูปภาพ ในขณะที่การสลับใบหน้าแทนที่ข้อมูลประจําตัวต้นทางด้วยข้อมูลประจําตัวเป้าหมาย (การจัดการข้อมูลประจําตัว) การออกกฎหมายใหม่จะจัดการกับการจัดการการแสดงออกทางสีหน้าของอินพุตทีละรายการ
เครือข่ายปฏิปักษ์กําเนิด (GAN): GAN ทํางานโดยโมเดล AI สองแบบที่แข่งขันกันเพื่อสร้างเอาต์พุต Deepfake ที่ "แม่นยํา" หรือเป็นของแท้มากที่สุด สองโมเดล – หนึ่งโมเดลกําเนิดและอีกโมเดลหนึ่งเป็นแบบจําลองที่เลือกปฏิบัติ – สร้างและทําลายควบคู่กัน โมเดลกําเนิดสร้างเนื้อหาตามข้อมูลการฝึกอบรมที่มีอยู่เพื่อเลียนแบบตัวอย่างในข้อมูลการฝึกอบรม ในขณะเดียวกันแบบจําลองการเลือกปฏิบัติจะทดสอบผลลัพธ์ของแบบจําลองกําเนิดโดยการประเมินความน่าจะเป็นที่ตัวอย่างที่ทดสอบมาจากชุดข้อมูลมากกว่าแบบจําลองกําเนิด โมเดลยังคงปรับปรุงต่อไปจนกว่าเนื้อหาที่สร้างขึ้นจะมาจากโมเดลกําเนิดเช่นเดียวกับข้อมูลการฝึกอบรม วิธีนี้มีประสิทธิภาพมากเพราะช่วยปรับปรุงผลลัพธ์ของความถูกต้องโดยการตรวจสอบอย่างต่อเนื่องกับเครื่องมือที่ออกแบบมาเพื่อชิงไหวชิงพริบ
การโจมตี Generative AI มักใช้โดยผู้ฉ้อโกงอย่างไร
การสร้างและใช้ภาพสังเคราะห์ที่สร้างโดย AI โดยกําเนิดนั้นไม่ใช่ความผิดทางอาญาโดยเนื้อแท้ อย่างไรก็ตาม น่าเสียดายที่ภาพสังเคราะห์เป็นของขวัญสําหรับอาชญากรไซเบอร์ – ช่วยเหลืออาชญากรรม เช่น การกรรโชกและการล่วงละเมิด จงใจเผยแพร่ข้อมูลที่บิดเบือนทางการเมือง หรืออํานวยความสะดวกในการฉ้อโกงข้อมูลประจําตัวและเอกสาร (เช่น การพยายามเลี่ยงการตรวจสอบการยืนยันตัวตนที่ได้รับคําสั่งจาก ข้อบังคับรู้จักลูกค้าของคุณ)
รูปแบบทั่วไปของการฉ้อโกงที่สนับสนุนโดยภาพสังเคราะห์ ได้แก่:
อะไรคือความแตกต่างระหว่างสื่อสังเคราะห์ที่เปลี่ยนแปลงทางดิจิทัลและสื่อสังเคราะห์ที่สร้างขึ้นทางดิจิทัล?
สื่อสังเคราะห์เป็นเอาต์พุตของ Generative AI แต่ไม่ใช่ว่าสื่อสังเคราะห์ทั้งหมดจะถูกสร้างขึ้นโดย Generative AI
Generative AI สร้างข้อมูลใหม่ทั้งหมดที่ไม่เหมือนใครและเป็นต้นฉบับ ซึ่งต่างจากการประมวลผล วิเคราะห์ และแก้ไขข้อมูลที่มีอยู่ ความแตกต่างนี้สามารถสรุปได้ว่า สร้างขึ้น แบบดิจิทัลเทียบกับ i magery ที่เปลี่ยนแปลงแบบดิจิทัล
ทําไมทุกคนถึงพูดถึง Generative AI?
ในขณะที่ AI สามารถนําเสนอกรณีการใช้งานเชิงบวกมากมาย รวมถึงระบบอัตโนมัติของงาน แรงบันดาลใจในการสร้างสรรค์ และการวิเคราะห์ชุดข้อมูลที่ซับซ้อน แต่อันตรายของ Generative AI กําลังเป็นศูนย์กลาง
หมายเหตุ: Google เทรนด์แสดงถึงจํานวนการค้นหาทั่วไปสําหรับคําที่เฉพาะเจาะจงเมื่อเวลาผ่านไป ข้อมูลกราฟจะถูกทําให้เป็นมาตรฐานตั้งแต่ช่วง 0 ถึง 100 และเรียกว่า "ดอกเบี้ยเมื่อเวลาผ่านไป"
สิ่งหนึ่งที่แน่นอนคือ: Generative AI กําลังก้าวหน้าอย่างรวดเร็ว และสัญญาว่าจะสร้างผลกระทบที่ก่อกวนและเปลี่ยนแปลงอย่างลึกซึ้งในหลากหลายอุตสาหกรรม
Generative AI ได้รับความสนใจจากสาธารณชน ผู้กําหนดนโยบาย และรัฐบาล คุณสามารถเรียนรู้เพิ่มเติมเกี่ยวกับ Generative AI และภาครัฐได้ในบทความนี้ ซึ่งแสดงรายการคําตอบจากรัฐบาลและผู้กําหนดนโยบายทั่วโลก และให้รายละเอียดว่า iProov ป้องกันภัยคุกคามอย่างไร
ในโลกดิจิทัลที่หนึ่งในปัจจุบันมีพื้นผิวการโจมตีทางดิจิทัลที่ใหญ่ขึ้นโดยมีธุรกรรมที่มีความเสี่ยงสูงจํานวนมากขึ้นและหลากหลายที่เกิดขึ้นทางออนไลน์ซึ่งมักจะหมายถึงรางวัลที่ใหญ่กว่าสําหรับผู้ฉ้อโกง ท้ายที่สุดแล้ว ข้อกังวลคือวิธีที่ผู้ไม่หวังดีสามารถใช้สื่อสังเคราะห์ที่สร้างโดย AI เพื่อวัตถุประสงค์ในการฉ้อโกงและเพื่ออํานวยความสะดวกในการเผยแพร่ข้อมูลเท็จทางออนไลน์
ความคิดของการปิดเกี่ยวกับ Generative AI และการตรวจสอบใบหน้าไบโอเมตริกซ์
ใบหน้ามนุษย์ของแท้มีเอกลักษณ์เฉพาะตัวและไม่สามารถทําซ้ําได้อย่างแท้จริง ซึ่งเป็นเหตุผลว่าทําไมการตรวจสอบใบหน้าด้วยไบโอเมตริกซ์จึงกลายเป็นวิธีที่ปลอดภัยและสะดวกที่สุดในการยืนยันตัวตนของผู้ใช้ทางออนไลน์
สิ่งหนึ่งที่ชัดเจนคือเทคโนโลยีไบโอเมตริกซ์จะทําหน้าที่เป็นเส้นชีวิตสําหรับการตรวจสอบการมีอยู่จริงจากระยะไกลโดยเฉพาะอย่างยิ่งเมื่อแบบจําลองไม่สามารถแยกแยะได้ด้วยตามนุษย์อีกต่อไป ในความเป็นจริงมีเพียงระบบที่ทันสมัยที่สุดที่ต่อสู้กับการแข่งขันด้านอาวุธที่ปรับขนาดอย่างรวดเร็วนี้เท่านั้นที่พร้อมที่จะจดจํา AI กําเนิด
iProov สามารถช่วยได้อย่างไร
ในการตรวจสอบ Deepfake iProov ใช้เทคโนโลยีไบโอเมตริกซ์แบบครั้งเดียวที่ได้รับการจดสิทธิบัตรพร้อมการเรียนรู้เชิงลึกและเทคโนโลยีคอมพิวเตอร์วิทัศน์เพื่อวิเคราะห์คุณสมบัติบางอย่างที่สื่อที่สร้างโดย AI ไม่สามารถสร้างขึ้นใหม่ได้ เนื่องจากไม่มีบุคคลจริงอยู่อีกด้านหนึ่งของกล้อง นี่คือเหตุผลที่การมีไบโอเมตริกซ์แบบเรียลไทม์ที่รวมเข้ากับ เทคโนโลยีความมีชีวิตชีวา เป็นสิ่งสําคัญสําหรับองค์กรในการแยกแยะระหว่างสื่อสังเคราะห์และคนที่แท้จริง
หากต้องการเรียนรู้เพิ่มเติมเกี่ยวกับวิธีที่ผู้ฉ้อโกงใช้ประโยชน์จาก Generative AI เพื่อบ่อนทําลายการยืนยันตัวตนและสนับสนุนการฉ้อโกงข้อมูลประจําตัวสังเคราะห์ โปรดอ่านรายงานใหม่ของเรา "Stolen to Synthetic" โปรดคลิกที่นี่เพื่ออ่านรายละเอียดเพิ่มเติม.
จองการสาธิตหรือขอคําปรึกษาที่กําหนดเองกับผู้เชี่ยวชาญ iProov ที่นี่วันนี้
