חוקרים אבטחת מידע מזהירים: "מדובר בטכנולוגיה רדיקלית. ברגע שמערכת כזו מיושמת, אפשר בקלות לאמן את הבינה המלאכותית לאתר כל תוכן לא רצוי." ובכל מקרה מה שבטוח, בניגוד להבטחות והתחייבויות קודמות של אפל, האמת היא "מה שקורה באייפון שלך כבר ממש לא תמיד נשאר שם".

בחברת אפל טוענים שהמאפיינים החדשים "שומרים על פרטיות ויחד עם זאת נלחמים בהתעללות בילדים", אולם המבקרים מצביעים על בעיות שקשורות לפרטיות ומעקב, ובעיניהם השאלה המרכזית היא לא מה הטכנולוגיה עשויה לעשות היום אלא מה ביכולתה לעשות מחר. האם טכנולוגית הסריקה החדשה של אפל תאפשר מעקבנרחב יותר ברחבי העולם? האם ממשלות יתחילו לדרוש מאפל לסרוק במדינותיהן את כל התכנים האסורים שאפשר למצוא על גבי אייפונים.

Apple says it will begin testing a new system to automatically match photos on iPhones and uploaded iCloud accounts to a database of child sexual abuse images and alert authorities as needed https://t.co/IaIZPlVsvr

— CNN (@CNN) August 9, 2021

באפל אומרים שכלי הזיהוי החדש מסוגל לזהות  תמונות של התעללות ילדים שמאוחסנות באייפון מבלי לפענח את התמונות. לטענת החברה היא יישמה מספר בדיקות כדי להפחית את הסיכון לטעויות לפני שהתמונות מועברות לרשויות האכיפה וכן למרכז הלאומי לילדים נעדרים או מנוצלים NCMEC. לדוגמה אחת: הסורק חייב לזהות מספר תמונות בעייתיות כדי להתריע, תמונה אחת לא תספיק.

אפל לא לבד וגם אינה הראשונה שנכנסת לתחום: ענקיות טכנולוגיה אחרות בהן גוגל, מייקרוסופט, דרופבוקס וחברות אחרות שמספקות שירותי ענן, כבר סורקות חומרים שמאוחסנים על גבי השרתים שלהם כדי לאתר התעללות בילדים. אז מה ההבדל הגדול בין אפל לחברות האחרות? שהסריקות של אפל יתבצעו על גבי מכשיר האייפון בעצמו, כאשר באפל טוענים שזו התכונה שמגדירה את הפרטיות של הטכנולוגיה החדשה. אגב, לשם השוואה בחברת ווצאפ בונים על המשתמשים שידווחו על תכנים בעייתים, ולמרות שיכולותיה של ווצאפ מוגבלות בשנה האחרונה היא דיווחה על מעל 400 אלף מקרים ל-NCMEC.

זאת ועוד, באפל טוענים שענקיות טכנולוגיה אחרות יכולות לסרוק כל תוכן שהמשתמשים שלהם מעלים, ואילו באפל סריקת המכשיר נועדה לשלוח לחברה מסר מוצפן עם קוד המזהה תמונות המתארות התעללות בילדים על סמך מסד נתונים שסיפקה NCMEC ולא אפל. בנוסף, הזכירו באפל שההליך רלוונטי רק למי שמעלה תמונות לענן (iCloud).
המבקרים טוענים שלחברות טכנולוגיה אחרות כבר יש טכנולוגיות של סריקת תמונות שהועלו לענן, אז לשם מה צריך להחדיר טכנולוגיה חדשה ומורכבת כשכבר ישנה על המדף טכנולוגיה קיימת לדברים האלה?

I read the information Apple put out yesterday and I'm concerned. I think this is the wrong approach and a setback for people's privacy all over the world.

People have asked if we'll adopt this system for WhatsApp. The answer is no.

— Will Cathcart (@wcathcart) August 6, 2021

"אפל בנתה ומתפעלת מערכת למעקב שאפשר בקלות להפוך אותה למערכת שתסרוק את כל התכנים הפרטיים עבור כל דבר עליו הממשלה רוצה שליטה", טוען וויל קאת'קארט שעומד בראש ווצאפ מטעם פייסבוק בביקות חריפה על אפל, "מדינות שבהן נמכרים אייפונים מגדירות באופן שונה מה מקובל עליהן ומה לא. האם המערכת תהיה בשימוש בסין? איזה תוכן ייחשב שם לא חוקי ואיך בכלל נדע מכך? איך אפל תטפל בדרישות של ממשלות מכל העולם להוסיף דפוסי תוכן אחרים לרשימה הסריקות של אפל?"

הסיפור הזה עדיין בראשיתו, יש עוד הרבה מידע שצפוי להיחשף בקרוב על הפעולות הבאות של אפל.