UKSIC, çocukların meraktan bu tür içerikleri üretmeleri durumunda, bu içeriklerin hızla kontrol dışına çıkarak sosyal medya platformlarında dolaşıma girebileceğine ve çocukları istismar etmek veya şantaj yapmak için kullanılabileceğine dikkat çekti.
UKSIC Direktörü Emma Hardy, yapay zeka tarafından oluşturulan içeriklerin fotogerçekçi ve profesyonel fotoğraflarla karşılaştırılabilir olduğunu vurgulayarak, bu teknolojinin kötüye kullanılma potansiyelinin korkutucu olduğunu belirtti. Hardy, şu anda yaşanan bir risk olduğunu ifade ederek, bu teknolojinin kötüye kullanılmasını engellemek için tedbirler alınması gerektiğini ve kontrol edilmeyen yapay zekânın çocukları daha az güvenli hale getirdiğini dile getirdi.
UKSIC, bu tehlikenin az sayıda rapor aldığını ve okullardaki yöneticileri çocukları takip etme konusundaki sistemlerin yasadışı içerikleri etkili bir şekilde engelleyip engellemediğini değerlendirmeye çağırdı. Hardy, gençlerin genellikle yaptıkları şeyin ciddiyetinin farkında olmadıklarını belirterek, yeni teknolojilerin, özellikle yapay zeka gibi, halk için daha erişilebilir hale geldiğinde zararlı içeriklerin daha sık üretilmesinin muhtemel olduğuna dikkat çekti.