AI แบบเงาข่มขู่ความมั่นคงปลอดภัยในองค์กร

ตามที่เทคโนโลยี AI กำลังพัฒนาอย่างรวดเร็ว องค์กรต่างๆ กำลังเผชิญกับภัยคุกคามด้านความปลอดภัยที่เ emerging คือ แอพพลิเคชัน AI แบบไม่ได้รับอนุญาต แอพพลิเคชันเหล่านี้ที่พัฒนาโดยพนักงานโดยไม่มีการดูแลด้าน ITหรือความปลอดภัย กำลังกระจายตัวไปทั่วบริษัทและมักจะไม่ถูกสังเกต เช่นที่ได้ระบุไว้ในบทความล่าสุดของ VentureBeat.

VentureBeat อธิบายว่า แม้ว่าแอปพลิเคชันหลายๆ ตัวนั้นไม่ได้มีเจตนาที่จะทำให้เกิดความเสียหาย แต่ยังคงเป็นอันตรายที่สำคัญต่อเครือข่ายภายในองค์กร ตั้งแต่การละเมิดข้อมูลจนถึงการฝ่าฝืนระเบียบการปฏิบัติ.

แอป Shadow AI มักถูกสร้างขึ้นโดยพนักงานที่ต้องการทำงานวนซ้ำหรือปรับปรุงการดำเนินงาน โดยใช้โมเดล AI ที่ได้รับการฝึกอบรมจากข้อมูลที่เป็นลิขสิทธิ์ของบริษัท.

แอปเหล่านี้ที่มักพึ่งพาเครื่องมือ AI สร้างสรรค์ เช่น OpenAI’s ChatGPT หรือ Google Gemini มักขาดการควบคุมที่จำเป็น ทำให้พวกเขามีความเสี่ยงสูงต่อการรักษาความปลอดภัย.

ตามที่ Itamar Golan, CEO ของ Prompt Security กล่าวว่า “ประมาณ 40% ของระบบเหล่านี้จะเริ่มการฝึกอบรมด้วยข้อมูลใด ๆ ที่คุณให้เขาใช้ ซึ่งหมายความว่าทรัพย์สินทางปัญญาของคุณอาจกลายเป็นส่วนหนึ่งของโมเดลของเขา” ดังที่รายงานโดย VentureBeat.

ความน่าสนใจของ AI แบบเงานั้นชัดเจน พนักงานที่อยู่ภายใต้ความกดดันที่เพิ่มขึ้นเพื่อต้องทันกำหนดการที่แน่นอนและจัดการกับภาระงานที่ซับซ้อน กำลังหันมาใช้เครื่องมือเหล่านี้เพื่อเพิ่มความสามารถในการผลิต.

Vineet Arora ผู้อำนวยการเทคโนโลยีที่ WinWire ได้กล่าวถึง VentureBeats ว่า “แผนกต่างๆ มักจะใช้โซลูชัน AI ที่ไม่ได้รับการรับรอง เพราะผลประโยชน์ทันทีที่น่าหลงใหลเกินกว่าจะละเว้นไปได้” อย่างไรก็ตาม ความเสี่ยงที่เครื่องมือเหล่านี้นำมาสู่เกินยิ่งใหญ่

Golan เทียบ shadow AI เหมือนกับยาเพิ่มสมรรถภาพในกีฬา กล่าวไว้ว่า “มันเหมือนกับการใช้ยาเสริมสมรรถภาพในการแข่งขัน Tour de France คนต่างๆ ต้องการเอาชนะโดยไม่รู้ถึงผลที่เกิดขึ้นในระยะยาว” ตามที่ได้รายงานโดย VentureBeats

แม้ว่าจะมีข้อได้เปรียบ แต่แอปพลิเคชั่น AI แบบเงา (Shadow AI) สามารถทำให้องค์กรเผชิญกับความเสี่ยงทางด้านความปลอดภัยในหลากหลายรูปแบบ ทั้งการรั่วไหลของข้อมูลโดยไม่ได้ตั้งใจ และการโจมตีโดยการฉีดคำสั่งทันท่วงที ซึ่งมาตรการด้านความปลอดภัยแบบดั้งเดิมไม่สามารถตรวจจับได้

สถานการณ์ของปัญหานี้มีขนาดที่ทวีความยิ่งใหญ่ Golan ได้เปิดเผยกับ VentureBeats ว่าบริษัทของเขาจดทะเบียนแอปพลิเคชัน AI ใหม่ๆเข้ามา 50 แอปต่อวัน โดยมีจำนวนรวมทั้งหมดกว่า 12,000 แอปที่กำลังใช้งานอยู่ “คุณไม่สามารถหยุดคลื่นสึนามิได้ แต่คุณสามารถสร้างเรือได้” Golan แนะนำ โดยชี้แจงถึงความจริงที่หลายองค์กรถูกทำให้ตาบอดจากการใช้งาน AI แบบเงา (Shadow AI) ในเครือข่ายของพวกเขาเอง

ตัวอย่างเช่น บริษัททางการเงินหนึ่ง ได้ค้นพบเครื่องมือ AI ที่ไม่ได้รับอนุญาตถึง 65 ตัวในระยะเวลาการตรวจสอบ 10 วัน ซึ่งมากกว่าเครื่องมือที่ทีมงานด้านความปลอดภัยของพวกเขาคาดหวังไว้ที่น้อยกว่า 10 ตัว ดังที่รายงานโดย VentureBeats.

อันตรายที่มาจาก AI ที่โจรกรรมนั้นเป็นเรื่องที่น่ากังวลอย่างมากสำหรับภาคที่ถูกกฎหมายควบคุม โดยเฉพาะเมื่อข้อมูลของเจ้าของถูกป้อนเข้าไปในโมเดล AI สาธารณะ การควบคุมจะกลายเป็นเรื่องยาก ซึ่งนำไปสู่ปัญหาเรื่องการปฏิบัติตามกฎหมายที่อาจเกิดขึ้น.

โกแลนเตือนว่า “กฎหมาย AI ของสหภาพยุโรปที่กำลังจะมาถึง อาจทำให้ค่าปรับที่สูงกว่า GDPR ยังดูเล็กน้อย” ในขณะที่อโรราเน้นเรื่องความเสี่ยงจากการรั่วซึมของข้อมูล และค่าปรับที่องค์กรอาจต้องเผชิญหากไม่สามารถป้องกันข้อมูลที่ละเอียดอ่อนได้ ตามที่รายงานโดย VentureBeats.

เพื่อจัดการกับปัญหาการใช้ AI ที่เริ่มมาแรง ผู้เชี่ยวชาญแนะนำวิธีการหลากหลายด้าน อโรราแนะนำให้องค์กรสร้างโครงสร้างการดูแลระบบ AI แบบกลาง, ดำเนินการตรวจสอบอย่างสม่ำเสมอ, และติดตั้งระบบควบคุมการรักษาความปลอดภัยที่ตระหนักรู้ถึง AI ที่สามารถตรวจจับการถูกใช้ในการโจมตี.

นอกจากนี้ ธุรกิจควรจะให้พนักงานมีเครื่องมือ AI ที่ได้รับการอนุมัติล่วงหน้าและนโยบายการใช้งานที่ชัดเจนเพื่อลดความสนใจที่จะใช้วิธีการที่ไม่ได้รับการอนุมัติ