במהלך החודשים האחרונים צצו ברחבי האינטרנט דוגמאות שונות של Google Home המגיב לפניות עם תשובות של אמיתות מפוקפקות. הנה דוגמא אחת כזו.
והנה מה קורה אם תשאלו את Google Home "האם אובמה מתכנן הפיכה?" pic.twitter.com/MzmZqGOOal
- רורי צלן-ג'ונס (@ ruskin147) 5 במרץ, 2017
הבעיה היא שגוגל, על מנת לבצע אופטימיזציה לתשובות מבוססות קוליות, קוראת את תוצאות החיפוש המובילות של שאילתה נתונה - מבלי שתוודא בהכרח האם אותו מקור מספק תשובות אמיתיות. על פי The Outline, בעיה זו רק תחמיר ככל שיותר אנשים ישקיעו במלווים של AI מבוססי קולי שמורידים את המשתמש מהמשתמש לצורך קבלת ידע:
מספר המכשירים המחוברים לאינטרנט פחות דפדפן צומח במהירות וכבר עוזרים להופעות קוליות כמו אמזון אקו וגוגל הום לשוק. הרשימה המסורתית של תוצאות החיפוש של גוגל אינה מתורגמת היטב לקול - דמיין את Google Home קורא לך רשימה של 10 אתרי אינטרנט כשאתה רק רוצה לדעת כמה קלוריות בתפוז.
ניתן להמחק בקלות יחסית בגוגל, ועם מספיק מניפולציה אתר מסוים יכול לעלות לראש תוצאות החיפוש.
הנושאים מתעוררים כאשר גוגל מאזנת את התפיסה שמנוע החיפוש שלה אמין באופן מטבעי - רוב האנשים אומרים שהם מאמינים כי המידע שהם מוצאים באתרים המוצגים בדף הראשון של גוגל - עם אלגוריתמי למידת המכונה שעוזרים לחלקי מידע מסוימים לעלות התוצאה העליונה.
היכולת לקרוא קטעי טקסט מובילים היא גם המאפיין המובהק ביותר בין Google Home לבין מתחרים כמו אמזון אקו וסירי, אמר דני סאליבן מחברת Search Engine Land. "גוגל רואה בכך יתרון תחרותי והם לא רוצים לכבות את זה", אמר. הבעיה היא שגם כאשר הם טועים, הקטעים המוצגים נושאים את האישור הגבוה ביותר של גוגל. "איפה נקודת המפנה שבה אתה מקבל מספיק מהתשובות המביכות האלה שאתה מחליט לסגור אותה?"
זו בעיה קשה מאוד לפתור. גוגל משתמשת בגרף הידע הנרחב שלה בכדי לספק את מה שהיא מאמינה כי היא התשובה הטובה ביותר לכל שאלה, והחוזק הגדול ביותר שלה - נתונים, והשימוש בהם כדי לתת מענה לכל שאלה שהיא למעשה - הוא גם האחריות הגדולה ביותר שלה. הסיבה לכך היא שניתן לגייס בקלות יחסית את גוגל, ועם מספיק מניפולציה אתר מסוים יכול לעלות לתוצאות החיפוש. גוגל כרגע לא מבדילה בין מנוע החיפוש שלה - רשימת התוצאות מבוססות הטקסט והווידיאו שמיליוני אנשים משתמשים בהן מדי יום - לבין זו של הסייעת שלה, המספקת את התשובות ל- Google Home. בהמשך הדרך זה עשוי להיאלץ לאצור את התוצאות של שאלות נפוצות יותר, או להסתכן בהפצת תוכן שהוא לא בהכרח עומד מאחור.
כמובן שגוגל עצמה לא מתיימרת לתמוך באף אחת מהטענות הללו, והיא גם לא מאמתת את אמיתות התוצאות המובילות שסופקו לבית. היא קובעת כי באופן ברור מאוד בכל תגובה על ידי הקדמה "לפי" לכל תשובה. אך מרבית המשתמשים, לטוב ולרע, אינם מבדילים בין גוגל ספקית החיפוש מגוגל למקור החדשות האמין, וזה יביא את החברה לצרות ככל שיתעוררו יותר מהדוגמאות השנויות במחלוקת.
ג'רי הילדנברנד שלנו כתב על נושא הפרסום של Google Home בטור קודם:
הדרך הנכונה לטפל בכך על פי גוגל היא לדווח על הקטע המוצג כלא הולם. הבעיה היא שזה לא מתאים לאינטרנט שאינו קורא אותו בקול רם. אני לא חושב שהשיפור משופר על ידי הסרת תוצאה מעניינת שמופיעה בראש כל עוד קול רובוטי נשי מצמרר לא קורא את זה בקול רם לילדים. ו- Google Home נועד להיות בחוץ מול כל מי שעושה את הדבר שלו. זה כבר לא פרטי ברגע שהוא יוצא מהרמקול.
זה מגיע לליבה של הבעיה: אנשים מסוגלים יותר להבחין בין האמיתי לזיוף כאשר מוצגת להם רשימת תוצאות חלופיות. כשגוגל מציעה רק תוצאה מוחלטת אחת, אנשים נוטים יותר להתייחס אליה כאל אמת.
בינתיים, Google Home עומד להשיק בבריטניה, והוכיחה את אחת ההצלחות החומרה הגדולות ביותר של גוגל בשנים האחרונות.
