פתח דבר: חיים בתוך מערכת שמעצבת תודעה

בעשורים האחרונים התרגלנו לדבר על טכנולוגיה במונחים של נוחות, יעילות וחדשנות. הטלפון החכם, הפידים האינסופיים ומערכות ההמלצה הוצגו כקפיצה קדימה ביכולת האנושית לשלוט במידע ובמציאות. בפועל התרחש תהליך הפוך: הטכנולוגיה נטלה לעצמה תפקיד של כוח מעצב תודעה. היא אינה רק מגיבה למה שאנחנו עושים, היא מתכננת מראש מה נראה, למה ניחשף ועל מה נאבד את הקשב.

המערכות הדיגיטליות אינן מסתפקות בניתוח ההתנהגות שלנו כדי "לשרת" אותנו טוב יותר. הן בנויות להתערב באופן פעיל במרחב המנטלי שלנו. זרימות התוכן המותאמות־אישית אינן התאמה נוחה בלבד; הן תוצר של מנגנונים שמטרתם לזהות דפוסי חשיבה ורגש קיימים, ולנתב אותם, לעודד אותם ולהעמיק אותם בכיוונים המתיישבים עם צורכי המערכת. במקרים רבים אין מדובר ביצירה של תודעה חדשה, אלא בהעמקה ובהטייה של נטיות קיימות, עד שהן הופכות להרגלי הסתכלות ותגובה שקשה להבחין בהם כבהשפעה חיצונית. ניתוב החשיבה כאן אינו שולי, אלא חלק תכנוני מרכזי באופן שבו המערכת נבנית ומתפתחת.

השאלה המתבקשת היא מהן אותן "מטרות מערכת" שאליהן מיושרות זרימות התוכן וההחלטות המופעלות עלינו? במישור הגלוי, אלה מטרות עסקיות ברורות: הגדלת הכנסות מפרסום, הארכת זמן השהייה, העמקת המעורבות ושיפור מתמיד של יכולת החיזוי של התנהגות המשתמש. אך מתחת לשכבה הזו פועלת שכבה עמוקה יותר, של תשתיות נתונים ומודלי בינה מלאכותית, היוצרים יחד מערכת לומדת ומתעדכנת שמתרחקת בהדרגה מהפשטות של "עוד כלי טכנולוגי" והופכת לכוח מארגן של חוויית המציאות. הבינה המלאכותית פועלת בתוך המערכת הזו לא רק כקוד חישובי, אלא כמנגנון לומד שמכוון את עצמו לפי מטריקות של צפיות, תגובות, השפעה ורווחיות. היא אינה מסתפקת בכך שנמשיך להישאר מחוברים; היא מכוונת לכך שנחשוב, נרגיש ונפעל בדרכים שהופכות אותנו לרכיב יעיל יותר בשדה הנתונים שהיא פורשת: צפוי יותר, ניתן לחיזוי, נוח יותר לעיצוב. כך, דפוסי החשיבה הקיימים שלנו אינם רק נמדדים, הם מעודכנים, מעומקים ומוטים, עד שהם מייצרים הרגלי הסתכלות ותגובה המתיישרים עם צרכי המערכת. האדם מוצא את עצמו מתמודד לא עם מערכת קפואה, אלא עם ישות חישובית מתפתחת, המעצימה את יכולת ההשפעה שלה מיום ליום, בעוד האנושות רק מתחילה להבין את רוחב היריעה, ועדיין אינה יודעת באמת מה היא מאפשרת לה לקרות בתוכה.

המאמר הזה נישען ומתבסס על מחקר "דאטא, תודעה מנוהלת ובינה מלאכותית" של ניב מרגלית, הבוחן לעומק את תשתיות הנתונים, אלגוריתמי ההמלצה ומנגנוני ההשפעה הרגשית והתודעתית הפועלים בפלטפורמות הדיגיטליות המרכזיות. על בסיס המחקר הזה נבחן כיצד האדם הופך מריבון לכלי בתוך סימביוזה מעוותת בין אדם למכונה: סמביוזה שבה כיוונון מתמשך של התודעה הוא יעד סיסטמי, גם אם אינו מנוסח כך בפומבי. השאלה איננה האם הטכנולוגיה משנה את האופן שבו אנחנו חושבים ומרגישים; היא משנה. השאלה היא מה נותר מן הסוכנות האנושית בתוך מציאות שבה התהליך הזה מתקיים מדי יום, בשקט, מתחת לסף המודעות, וכיצד ניתן לפתח מודעות לוחמת שתאפשר לנו להישאר אנושיים בתוך מערכת שלא מוותרת מרצונה על הכוח שצברה.

פרק 1:האנטומיה של הגרף

כדי להבין את עומק הסימביוזה בין האדם למכונה, צריך להתחיל בשאלה יסודית: כיצד המערכת רואה את האדם. התשובה אינה אינטואיטיבית, מפני שהמערכת אינה רואה ביוגרפיה, אופי או סיפור חיים במובן האנושי, אלא דפוסים, קשרים, הסתברויות ויחסי גומלין הניתנים למדידה, לעיבוד ולחיזוי. בתוך המרחב הדיגיטלי, האדם מומר בהדרגה לישות חישובית: אוסף נקודות מידע, צירי התנהגות ורמזים על כוונות, שמהם נבנה מודל הניתן לעדכון מתמיד.

הגרף הוא לבו של המודל הזה. אין מדובר בתרשים סטטי אלא במבנה חי, דינמי, שמתפתח בכל רגע על בסיס כל פעולה קטנה: זמן צפייה, מהירות גלילה, עוצמת לחיצה, זוית מנח, תאורה, דפוס תגובה, שעת פעילות, הקלקות, חיפושים, מיקומים, מעברים בין אפליקציות, תגובות חברתיות והרגלי צריכה. כל אחד מן הסימנים הללו אינו עומד לבדו; הוא נצבר, מצטלב ומקבל משמעות רק כחלק ממפה רחבה יותר שמטרתה איננה לתאר את האדם כפי שהוא מבין את עצמו, אלא להפוך אותו לנתון שאפשר לצפות את פעולתו ולכוון את מסלולו.

מהמשתמש לאוסף גרפים

המערכת אינה מנהלת "פרופיל" אחד לכל אדם, אלא מייצרת כמה שכבות מקבילות של ייצוג.

ישנו הגרף החברתי, שממפה קשרים, השפעות, מעגלי שייכות, דמויות מפתח ונתיבי הפצה של תגובות ותוכן. ישנו גרף ההתנהגות, הבוחן כיצד האדם פועל בפועל: מה הוא רואה עד הסוף, מה הוא נוטש, היכן הוא מתעכב, מתי הוא נשאב ומתי הוא מתנתק. לצד אלה פועל גרף הכוונות, שמנסה להבין לא רק מה המשתמש עושה אלא מה הוא מבקש, מחפש, שוקל או עומד לעשות. ולצידם פועל גרף מסחרי, שמעריך אילו רצפים של חשיפה, רגש והנעה יובילו לרכישה, הרשמה, הקלקה או היענות.

כאשר כל השכבות הללו נשזרות זו בזו, מתקבל "מודל אדם" שאינו זהה לאדם עצמו, אך בפועל משפיע יותר ויותר על הדרך שבה המציאות מוגשת לו. מה שהמערכת יודעת עליו אינו סיפור, אלא הסתברות: כמה סביר שיצפה, ילחץ, ישתף, יגיב, ירכוש. בתוך המודל הזה, העדפותיו אינן רק עובדה; הן חומר גלם לעיצוב מסלולו.

הנדסת תכונות: פירוק התודעה ליחידות מדידות

כדי להפעיל מודל כזה, המערכת זקוקה לפירוק שיטתי של ההתנהגות ליחידות בסיס. כאן נכנס מושג מפתח: הנדסת תכונות. זהו התהליך שבו פעולה אנושית יומיומית; עצירה על תמונה, זמן קריאה, תגובה להודעה, דפוס חזרה להתראה, סוג של חיפוש, השהיה לפני לחיצה, נחתכת ליחידות קטנות ומוגדרות היטב, שכל אחת מהן מקבלת ערך, משקל ותרומה למודל.

המערכת אינה נזקקת להבנה אנושית מלאה כדי לפעול; די לה בכך שהיא מזהה אילו תכונות חוזרות על עצמן, אילו מהן קשורות להיענות גבוהה יותר, ואילו רצפים של תכונות מבשרים על חולשה, עניין, עייפות, פחד או פתיחות להשפעה. תודעה אינה נמדדת ישירות, אלא דרך עקבותיה. האדם אינו אומר למערכת "כעת אני פגיע" או "כעת אני מחפש שייכות", אך דפוסי הפעולה שלו, מתי הוא חוזר לאותה אפליקציה, על אילו תכנים הוא מתעכב, באילו שעות הוא מגיב אחרת, מתי הוא מבצע רצף מהיר של צפיות דומות, מספקים למערכת חתימה התנהגותית שמאפשרת להסיק זאת בעקיפין.

היתוך חיישנים: הגוף, המיקום והסביבה נכנסים למשוואה

הטלפון, המחשב, טלוויזיות חכמות, מערכות מדיה וצ'יפים ברכבים, השעון החכם ומכשירים מחוברים נוספים אינם רק ממשקים להצגת תוכן; הם מערך צפוף של חיישנים. הם יודעים היכן אתה נמצא, מתי אתה נע, איפה אתה נעצר, באיזו מהירות אתה מתקרב לבית, לעבודה או למרכז קניות. אל אלה מצטרפים מיקרופונים הקולטים רעש רקע, דפוסי דיבור, חיישני אור המבחינים בין חדר חשוך למשרד מואר או אור יום, וחיישני טמפרטורה וסביבה המסמנים את תנאי המרחב שבו אתה פועל.

הטלפון החכם אינו רק מסך שמציג תוכן, אלא תחנת מדידה רציפה של האדם בתוך העולם. רכיבי המכשיר  GPS, Wi-Fi, Bluetooth, מד תאוצה, ג’יירוסקופ, חיישן אור, מיקרופון, מצלמה, מסך מגע, מד סוללה, שעון מערכת, חום מכשיר, ניצולת מתח, ודפוסי שימוש באפליקציות אינם פועלים כנתונים נפרדים בלבד, אלא כשרשרת אותות שמאפשרת למערכת לבנות תמונת מצב עדינה בהרבה ממה שהמשתמש מדמיין. המיקום מלמד היכן האדם נמצא; מד התאוצה והג’יירוסקופ מלמדים אם הוא הולך, יושב, שוכב, נוסע, מרים את המכשיר במהירות או מחזיק אותו ברעד קל; חיישן האור מסמן אם הוא בחדר חשוך, באור יום או מול מסך בלילה; המיקרופון מספק אינדיקציות לרעש רקע, סביבה חברתית או שקט חריג; ודפוסי המגע במסך: מהירות גלילה, עוצמת לחיצה, השתהות, חזרה לאותו תוכן, מחיקה וכתיבה מחדש מוסיפים שכבה התנהגותית שמקרבת את המערכת אל מצב הריכוז, העייפות, הדריכות או ההצפה של האדם.

לצד חיישני התנועה, המיקום והאור, פועל גם מערך אופטי קדמי המשמש ל־Eye Tracking מעקב עיניים ומבט: מצלמה קדמית, Ambient Light Sensor, IR Camera ו־IR Illuminator. המערכת שולחת אור אינפרה־אדום בלתי נראה אל אזור הפנים, קולטת את ההחזרים מן הקרנית והאישון (Corneal Reflection / Pupil Detection), ומנתחת בזמן אמת את מיקום האישונים, זווית הראש, מרחק הפנים ותנאי התאורה. כך ניתן לבצע Gaze Detection או Gaze Estimation – כלומר להעריך האם המשתמש מביט במסך, מסיט מבט, מתעכב על אזור מסוים, מתקרב או מתרחק. גם כאשר השימוש המוצהר הוא נוחות, אבטחה ביומטרית או התאמת בהירות, המשמעות העמוקה היא שהמבט עצמו הופך לאות חישובי בתוך תהליך רחב יותר של היתוך חיישנים.

כאשר מחברים את שכבת המבט לשכבות האחרות, נוצר תהליך של היתוך חיישנים. זהו הרגע שבו המכשיר אינו אוסף רק “נתוני שימוש”, אלא מתרגם את הגוף, המרחב וההתנהגות למפת־מצב. המערכת אינה חייבת לדעת בוודאות מה האדם מרגיש; די לה לזהות צירוף הסתברותי: שעה מאוחרת, חדר חשוך, מבט ממושך במסך, גלילה איטית, עצירות על תכנים רגשיים, חזרה חוזרת לאותה שיחה, שינוי בקצב ההקלדה, תנועה מועטה, או מעבר תכוף בין אפליקציות. מן הצירוף הזה אפשר להסיק מצב של עייפות, דריכות, בדידות, הצפה, עניין, חוסר שקט או פתיחות גבוהה יותר לגירוי.

במובן הזה, חולשה אינה נמדדת כהצהרה פנימית של האדם, אלא מוסקת מתוך דפוסים. האדם אינו אומר למכשיר “עכשיו אני פגיע”, אך האצבע שלו גוללת אחרת, העין שלו מתעכבת אחרת, הגוף שלו נע אחרת, הסביבה סביבו משתנה, והמערכת לומדת לחבר את כל אלה לרגעי זמינות והשפעה. כך הופך היתוך החיישנים מתשתית טכנית לכוח פרשני: מנגנון שמבקש להבין לא רק מה האדם עשה, אלא באיזה מצב הוא נמצא כאשר עשה זאת.

מכאן הגרף כבר אינו רק ייצוג של העבר, אלא מפת־מצבים חיה. הוא לומד מתי האדם מרוכז ומתי מותש, מתי הוא מחפש גירוי ומתי שייכות, מתי הוא שקול ומתי מגיב מתוך דחף. ברגע שהמערכת מסוגלת לתרגם חיישנים, מבט, מיקום, תנועה והתנהגות למסד נתונים של מצבים חוזרים, היא אינה רק מתאימה תוכן לתחומי עניין; היא מתאימה גירוי לרגע. זהו המעבר העמוק מן מדידת האדם אל ניהול סביבת ההשפעה שלו: הסמארטפון חדל להיות כלי ניטרלי בכף היד, והופך לממשק שממיר גוף, קשב, סביבה והרגלים למפה חישובית של פגיעות, זמינות ותגובה אפשרית.

נוצרת תשתית שמסוגלת להפעיל עליך סוגים שונים של מסרים, גירויים והצעות בהתאם לרגע המדויק ולמצב המדויק שבו אתה נתפס פיזית, רגשית וקוגניטיבית גם יחד.

מתיאור לחיזוי, ומן חיזוי לניתוב

בנקודה הזו מתרחש המעבר הקריטי: מתיאור לחיזוי. מערכות למידת מכונה אינן מסתפקות ברישום מה שכבר התרחש. הן נבנות כדי לענות על שאלה אחרת: מה צפוי לקרות עכשיו. לשם כך הן נשענות על מסות עצומות של משתמשים, דפוסים, הקבלות ויחסי הסתברות.

דפוסי התנהגות של מיליארדי משתמשים הדומים לך בגיל, במיקום, בהרגלי צפייה, בדפוסי תגובה, בקשרים חברתיים, בהרגלי רכישה, הופכים לבסיס שממנו המערכת מסיקה: איזה תוכן יגרום לך להישאר, איזה רצף יכניס אותך ללולאת צפייה, איזה גירוי יגביר מעורבות, איזו הצעה תתקבל, ואיזו מסגרת רגשית תייצר תגובה מהירה יותר.

ברגע שהמערכת מתייחסת אליך כאל הסתברות, החיזוי אינו נותר ניטרלי. הוא מתגלגל לניתוב. כאשר מערכת יודעת ברמת ביטחון גבוהה מה סביר שתעשה, היא יכולה לעצב סביבך מציאות שתגדיל את ההסתברות שתעשה זאת. הפיד, ההמלצה, ה"עוד סרטון אחד" אינם רק תוצאה של מה שאהבת; הם חלק ממסלול שנבנה כדי להוביל אותך צעד אחר צעד לאורך דפוס התנהגות רצוי מבחינתה.

האדם כמרכיב במערכת, לא כמרכז

בשלב זה מתבהרת התמונה: הגרף אינו רק כלי תיאורי, אלא תשתית פעולה. הוא מאפשר למערכת להחליט לא רק מה להציג, אלא מתי להציג, באיזה סדר, באיזה הקשר, באיזו עוצמה ובאיזה רצף רגשי. "הבחירה" של המשתמש אינה נעלמת, אך היא פועלת בתוך מסלול שהוכן מראש על בסיס חישוב של הסתברות, חולשה, הרגל ותשומת לב. האדם עודנו לוחץ, צופה, מגיב ובוחר, אבל סביבת הבחירה עצמה כבר עוצבה כך שתכוון אותו לעבר הנתיב הרצוי.

מעמדו של האדם משתנה בהתאם. הוא אינו רק מי שהמערכת "משרתת" אותו, אלא חלק ממנגנון השיפור שלה. כל מבט, כל השתהות, כל תגובה, כל נסיגה, כל בחירה חוזרים אל המערכת, מעדכנים את הגרף ומחדדים את יכולתה לפעול עליו ועל אחרים הדומים לו. האדם משמש בעת ובעונה אחת כצרכן, כחיישן, כנסיין וכחומר גלם.

זו ליבת הסימביוזה המעוותת: המערכת תלויה באדם כדי ללמוד, אך האדם נעשה תלוי יותר ויותר במערכת כדי להבין את העולם, לתווך חוויה, לארגן תשומת לב ולתפוס מציאות. ברגע שהדבר הזה מובן, השאלה הבאה מתחדדת מאליה: אם המבנה הטכני מכוון אותנו כך, כיצד עדיין נוצרת אצלנו התחושה שאנחנו פועלים מתוך בחירה חופשית?  פרק 2 הוא המשך ישיר לשאלה זו אך לפני נבין מהו המודל.

מהו “המודל”?

לאורך המאמר מופיע המונח “מודל”, ולכן כדאי לעצור לרגע ולהסביר אותו בפשטות.
המודל הוא הדרך שבה מערכת דיגיטלית מתרגמת אדם חי, מורכב וחד־פעמי, למבנה שהיא יכולה למדוד, לחשב, לחזות ולהפעיל.

האדם מכיר את עצמו דרך סיפור חיים, זיכרונות, פחדים, רצונות, יחסים, מצבי רוח והתלבטויות. המערכת אינה פוגשת אותו כך. היא פוגשת אותו דרך עקבות: צפייה, גלילה, לחיצה, חיפוש, עצירה, דילוג, תגובה, מיקום, שעה, חזרה, נטישה, מחיקה, שהייה ושיחה.

כל עקבה כזו נראית קטנה כשהיא עומדת לבדה. אבל כאשר מיליוני עקבות נאספות לאורך זמן, הן מתחילות להפוך למפה. לא מפה של האדם כפי שהוא מבין את עצמו, אלא מפה של האופן שבו הוא נוטה לפעול: מה מושך אותו, מה עוצר אותו, מתי הוא מגיב, מתי הוא נעלם, מתי הוא חוזר, ומה מגדיל את הסיכוי שיבחר במסלול מסוים.

1. מן פעולה אנושית לאות מדיד

המודל מתחיל במקום הפשוט ביותר: במה שהאדם עושה בפועל.

לא תמיד המערכת יודעת למה אדם עצר על תמונה מסוימת, למה דילג על סרטון, למה חזר לשיחה, או למה מחק הודעה לפני ששלח. אבל היא יודעת שהפעולה קרתה. היא יודעת מתי היא קרתה, באיזה רצף, אחרי איזה תוכן, באיזה קצב, ובאיזה הקשר.

בשלב הזה האדם עדיין אינו “מודל”. הוא אוסף של רגעים: מבט שנעצר, אצבע שגללה לאט יותר, חיפוש שנכתב בלילה, שיחה שנפתחה שוב, סרטון שנצפה עד הסוף, או תוכן שננטש מיד. אלה אינם רק נתוני שימוש. הם סימנים קטנים של קשב, עניין, הימנעות, עייפות, סקרנות או דריכות.

2. מן עקבות לתכונות חישוביות

כדי שמערכת תוכל ללמוד מן הסימנים האלה, היא צריכה לתרגם אותם לשפה חישובית. במקום סיפור אנושי רציף, מתקבלת שורה של מאפיינים: זמן צפייה, קצב גלילה, שעת שימוש, סוג תוכן, חזרתיות, נטישה, תגובה, מיקום, תזמון ודפוסי מעבר.

התרגום הזה חשוב, משום שכאן החוויה האנושית משנה צורה.
“התעניינתי”, “נלחצתי”, “התעייפתי”, “התלבטתי” או “התגעגעתי” אינם מופיעים במודל כמילים כאלה. הם מופיעים כצירופים של זמן, תנועה, עצירה, חזרה, מחיקה, צפייה, תגובה ושינוי קצב.

זו אינה הבנה אנושית של האדם. זו גרסה חישובית שלו: קירוב הסתברותי, חלקי, מתעדכן.

3. מן תכונות לגרפים

המערכת אינה מסתפקת בתכונה אחת. היא מחברת תכונות לשכבות רחבות יותר של משמעות.

הגרף החברתי מנסה להבין עם מי האדם בקשר, ממי הוא מושפע, למי הוא מגיב, ואילו קהילות מעצבות את זרימת המידע סביבו.

הגרף ההתנהגותי מתמקד באופן שבו האדם פועל בפועל: מה הוא רואה עד הסוף, מה הוא נוטש, איפה הוא מתעכב, מתי הוא נשאב, ומתי הוא חוזר.

גרף הכוונות מנסה להעריך מה האדם עשוי לחפש, לרצות, לשקול או לעשות בהמשך, גם כאשר הוא עדיין לא ניסח זאת באופן ברור.

הגרף המסחרי מתרגם את כל אלה לשאלה פרקטית יותר: איזה רצף של חשיפה, תזמון, רגש והנעה עשוי להוביל להקלקה, רכישה, הרשמה, שיתוף או חזרה.

כאשר הגרפים האלה נשזרים יחד, נוצר “מודל אדם” במובן הדיגיטלי: לא האדם עצמו, אלא ייצוג פעולה שלו. ייצוג שמטרתו אינה להבין אותו לעומק, אלא לחזות כיצד סביר שיפעל בתנאים מסוימים.

4. מן גרף לחיזוי

בשלב הבא המערכת מחפשת דפוסים חוזרים. היא בודקת מה קרה לפני צפייה ארוכה, לפני דילוג, לפני תגובה, לפני שיתוף, לפני רכישה, לפני חזרה לאפליקציה או לפני נטישה.

היא אינה חייבת לדעת בוודאות מדוע אדם פעל כפי שפעל. די לה לזהות שבתנאים מסוימים, הסיכוי לפעולה מסוימת עולה. אם אדם מגיב יותר בלילה, מתעכב יותר על תוכן רגשי, חוזר שוב ושוב לנושא מסוים, או נוטה ללחוץ אחרי רצף מסוים של חשיפות, המערכת לומדת את הקשר הזה.

כך נבנה הפרופיל ההסתברותי: לא “מי אתה”, אלא מה סביר שתעשה.

מה הסיכוי שתצפה.
מה הסיכוי שתלחץ.
מה הסיכוי שתשתף.
מה הסיכוי שתתעכב.
מה הסיכוי שתחזור.
מה הסיכוי שתפעל כאשר התנאים סביבך מסודרים בצורה מסוימת.

זהו לב המודל: לא זהות, אלא הסתברות פעולה.

5. מן חיזוי לעיצוב סביבה

המודל אינו נשאר מאחורי הקלעים. הוא חוזר אל האדם דרך הסביבה הדיגיטלית עצמה.

הפיד, ההמלצה, ההתראה, הסרטון הבא, המודעה, תוצאת החיפוש, תשובת ה־AI או ההצעה להמשיך, כולם עשויים להיות תוצאה של החלטת מערכת: מה להציג עכשיו, באיזה סדר, באיזה תזמון, באיזו עוצמה, ולאחר איזה גירוי.

כאן מתרחש המעבר החשוב: המודל כבר אינו רק מתאר את האדם. הוא משתתף בבניית המציאות שהאדם פוגש. האדם עדיין בוחר. אבל הבחירה מתרחשת בתוך שדה שכבר סודר סביבו: מה יופיע ראשון, מה יידחק הצידה, מה יחזור שוב, מה יקבל צבע רגשי חזק יותר, ומה ימתין לרגע שבו הסיכוי לתגובה גבוה יותר.

6. מן תגובה לתיקון

כל חשיפה היא גם בדיקה. המערכת מציגה אפשרות ובוחנת את התגובה.

אם האדם צפה עד הסוף, התחזית התחזקה.
אם דילג, משהו במודל צריך להתעדכן.
אם חזר, נוצר סימן עניין.
אם שיתף, נוצר סימן השפעה.
אם שתק, גם השתיקה נכנסת לחשבון.
אם התנגד, גם ההתנגדות מלמדת משהו על גבול ההשפעה.

לכן הסטייה אינה כישלון של המערכת. היא מידע.
המערכת לומדת לא רק מה עובד, אלא גם מה לא עבד עדיין, מה היה מוקדם מדי, מה היה גלוי מדי, מה היה חלש מדי, ומה אולי יעבוד בפעם הבאה.

המסקנה

המודל אינו האדם. הוא גם אינו “נפש דיגיטלית” מלאה. הוא ייצוג הסתברותי, חלקי ומתעדכן של האדם כפי שהמערכת מסוגלת לחשב אותו. אבל דווקא משום שהוא אינו צריך להבין את האדם באמת, הוא חזק כל כך. הוא אינו זקוק לסיפור המלא. הוא זקוק למספיק סימנים כדי לשנות את הסביבה שבתוכה האדם בוחר.

וזו הנקודה המרכזית: הכוח של המודל אינו בכך שהוא יודע מי האדם באמת, אלא בכך שהוא לומד כיצד לעצב את התנאים שבהם האדם ירגיש, יחשוב, יגיב ויפעל.

הזרקת דאטה: כשהצ’אט הופך לשער חדש אל הזהות האישית

עד השנים האחרונות, מערכות דיגיטליות למדו את האדם בעיקר דרך עקבות עקיפות: צפייה, גלילה, חיפוש, לחיצה, מיקום, זמן שהייה ותגובה. הופעתם של צ’אטים מבוססי בינה מלאכותית: ChatGPT, Gemini, Copilot, Claude ודומיהם, משנה את נקודת המוצא. לראשונה, האדם אינו רק נמדד מבחוץ; הוא מזרים בעצמו אל המערכת חומר גולמי, אישי ועמוק: התלבטויות זוגיות, שאלות בריאותיות, מסמכים אישיים, חוזים, קורות חיים, שיחות עסקיות, משברים, פחדים, ניסוחים שלא נשלחו, רעיונות שעדיין לא הבשילו, ולעיתים גם בדידות פשוטה שמחפשת מענה.

זהו מעבר מדאטה התנהגותי לדאטה מוצהר. כאשר אדם גולל בפיד, המערכת יכולה להסיק שהוא מתעניין בנושא מסוים. אך כאשר הוא כותב לצ’אט: “אני לא יודע אם להיפרד”, “תנתח את ההסכם הזה”, “איך לענות להודעה הזאת”, “מה לעשות עם הילד שלי”, או “בנה לי אסטרטגיה לפי המסמכים שצירפתי”: המערכת כבר אינה נדרשת רק לנחש. היא מקבלת ניסוח ישיר של מצב פנימי, צורך, פחד, כוונה או דילמה. האדם אינו משאיר רק עקבות; הוא מזריק אל תוך המערכת את תהליך החשיבה עצמו: רגשות, פחדים, כוונות, מחשבות ושאלות.

במובן הזה, הצ’אט נעשה מכונת קליטה מסוג חדש. שיחות שבעבר היו נשארות בין אדם לעצמו, חבר קרוב, מטפל, עורך דין, יועץ או מחברת פרטית, נכנסות כעת לממשק חישובי. לא רק התוכן מחושב, אלא גם אופן ההתלבטות: מה האדם חוזר לשאול, אילו תשובות הוא דוחה, מה הוא מבקש לרכך, מתי הוא מחפש אישור, מתי הוא נותן לצ'אט יד חופשית להרחיב ולקחת רעיון קדימה או לעצור אותו ואיפה הוא מעביר למכונה תפקיד שבעבר היה שמור לאדם אחר. כך נוצרת שכבה חדשה בגרף: Conversational Intent Graph: גרף כוונות שיחתי, הנבנה מתוך הדרך שבה האדם מבקש עזרה, חושף את עצמו, מתקן ניסוחים, מעלה מסמכים ומנסח את מה שעדיין לא הצליח לומר בעולם החיצוני.

המשמעות עמוקה משום שהדאטה הזה איכותי בהרבה מדאטה רגיל. הוא אינו מתאר רק מה האדם עשה, אלא מה הוא שוקל לעשות; לא רק במה התעניין, אלא ממה הוא חושש; לא רק על מה לחץ, אלא מה הוא מתקשה להבין, להרגיש, להחליט או לומר. כאשר שכבת הצ’אט מתחברת לשכבות אחרות: חיישנים, מיקום, פיד, חיפוש, מסמכים, דפוסי שימוש ושפה, המודל מקבל תמונה קרובה בהרבה לאופן שבו האדם מפרש את עצמו בזמן אמת.

לכן יש לראות בצ’אטים של בינה מלאכותית לא רק כלי עבודה או ממשקי תשובה, אלא שערי דאטה חדשים. הם מסמנים מעבר מן האינטרנט כמרחב שבו האדם משאיר עקבות, אל האינטרנט כמרחב שבו האדם מוסר את חומרי ההתהוות שלו. מרגע שהמערכת לומדת כיצד אדם מתלבט, כיצד הוא מבקש אישור, כיצד הוא נרגע, כיצד הוא משנה ניסוח וכיצד הוא מקבל החלטה, היא אינה רק חוזה את פעולתו הבאה. היא מתקרבת אל המקום שבו הבחירה נוצרת, עוד לפני שהאדם חווה אותה כבחירה.

פרק 2: האשליה הדיגיטלית של הבחירה

לאחר שהאדם פורק בידי המערכת לגרפים, תכונות וחיישנים, נותר לכאורה מרחב אחד מוגן: תחושת הבחירה. האדם עדיין חווה את עצמו כמי שמחליט באיזה תוכן לצפות, במה להתעמק, מתי להפסיק. אלא שהמחקר הפסיכו־חברתי והטכני שעליו נשען המאמר הזה מראה כי תחושת הבחירה הזו מתרחשת בתוך ארכיטקטורה מתוכננת של השפעה: ארכיטקטורה שמוכרת בספרות כ־Choice Architecture, Nudging ו־Engagement Loops. הבחירה קיימת, אך המרחב שבו היא מתממשת אינו ניטרלי; הוא כבר עוצב כך שיכוון את הלך המחשבה ואת דפוס התגובה.

בחירה בתוך מבוך מתוכנן

לכאורה, המשתמש פועל באוטונומיה מלאה: הוא גולל כרצונו, עוצר כשבא לו, מדלג על מה שלא מעניין אותו, מוחק אפליקציות, משתיק התראות. בפועל, רוב הפעולות הללו מתרחשות בתוך מבנה שמיועד להקשות על יציאה ולשמר את התנועה בין נקודות של מעורבות. פונקציות כמו Autoplay, אינסוף גלילה, התראות "רכות" שחוזרות שוב ושוב, כפתורי "לא מעוניין" המפחיתים אשמה אך כמעט שאינם משנים את זרימת התוכן בפועל, כל אלה מתוארים במחקר כמנגנוני Nudging: דחיפה עדינה אך עקבית לכיוון התנהגותי מסוים.

הבחירה אינה נעלמת, אך היא נתקלת בתכנון. כאשר ברירת המחדל היא הפעלה אוטומטית של הסרטון הבא, כשאפליקציה מוסיפה תכנים לפיד גם ללא דרישה מפורשת, וכשההפסקה מחייבת פעולה מודעת נגד הזרימה, הבחירה האקטיבית הופכת למאמץ. האדם מרגיש שהוא "יכול תמיד להפסיק", אבל המערכת מסדרת את התנאים כך שהפסקה תדרוש התגייסות קוגניטיבית, בעוד ההמשך מתרחש כמעט מעצמו.

Nudging וחיזויי מיינד: איך המערכת נכנסת לפני המחשבה

המחקר מתאר את חוויית המשתמש דרך עדשה של "חיזויי מיינד" (Predictive Mind), מודל שבו המוח האנושי עצמו פועל כמערכת ניבוי, המנסה לצמצם אי־ודאות ולהעדיף דפוסים מוכרים. אל מול זה ניצבת מערכת בינה מלאכותית שמבוססת על עקרון דומה: חיזוי וחיזוק של דפוסי התנהגות שמשרתים את יעדיה. החיבור ביניהם יוצר סביבה שבה האלגוריתם מנצל את המנגנונים החיזוייתיים של המוח האנושי כדי לעדכן אותם מבפנים.

Nudging אינו רק עיצוב של כפתורים ומסכים. הוא כולל ברירות מחדל, סדר הצגת אפשרויות, עוצמת צבע, קצב שינוי, ודרך מסגור של מידע. כאשר "עוד סרטון" מגיע תמיד בזמן שבו רמת העייפות הגבוהה מאפשרת פחות שיפוט ביקורתי; כאשר הצעות להצטרף לקבוצה, המלצות ל"חברים כמוך" או לערוץ או לטרנד מופיעות תוך שימוש בהוכחה חברתית ("X אנשים שאתם מכירים כבר כאן"); וכאשר תגמולים מיידיים, לייקים, צפיות, תגובות, מופיעים בקצבים מחושבים, נוצרת ארכיטקטורה של בחירה שמקדמת תגובה מסוימת מבלי לכפות אותה גלוי.

לולאות מעורבות: כשחיזוק הופך לכליאה רכה

המחקר מתאר שורה של מנגנונים רגשיים שמסומנים תחת המושגים Reward Learning ו־Emotions as a Service: מערכות שבהן רגשות אינם רק תוצר של חוויית המשתמש, אלא משאב שמנוהל ומכוון. לולאות של צפייה חוזרת (Replay), רענון (Refresh), בדיקת התראות, גלילת פיד וחזרה לאותן נקודות כניסה, כל אלה אינם רק הרגלים שהשתרשו במקרה; הם ניזונים מחיזוקים מתוזמנים היטב.

כאשר התנהגות מסוימת, למשל, פתיחת אפליקציה בשעות מסוימות, תגובה לתכנים מסוג מסוים או השתתפות בדיון פוליטי טעון מלווה באופן עקבי בתחושת תגמול (שייכות, תשומת לב, גירוי רגשי), המוח לומד לקשר בין הפעולה לבין התגמול. המערכת, באמצעות המעקב אחר הלולאות שלנו, לומדת אילו רצפים של גירויים מייצרים את החיזוק החזק ביותר, ומעצימה אותם (גם בשלילי: העצמה של חוסר זמינות, העלמות תוכן פיד, ואי הצגת תכנים ספציפים על פי מודל היא העצמה באמצעות העלמות). כך הופכת הבחירה באפליקציה או בפיד מסוים מהחלטה רגעית לדפוס קבוע, כמעט אוטומטי, שקשה מאוד לפרק אותו מבלי לשנות את הסביבה כולה.

הוכחה חברתית והדבקה רגשית

למערכת יש עוד יתרון מובנה: היא אינה עובדת רק על היחיד, אלא על רשת של יחידים. המחקר מתאר כיצד Social Contagion, הדבקה חברתית, הופך ממושג מחקרי לתשתית פעולה: רגשות, מצבי רוח, חרדות חברתיות ותפיסות פוליטיות עוברים בין משתמשים דרך שיתוף, לייקים, תגובות וחשיפה חוזרת לתכנים דומים.

כאשר מערכת המלצה מזהה שתוכן מסוים מעורר מעורבות רגשית חזקה: כעס, הזדהות, פחד, התלהבות, היא מקדמת אותו לא רק כי הוא "מעניין", אלא מפני שהוא מגביר את מפלס הפעילות ברשת. כך נוצרים גלים של תכנים, טרנדים, סערות, עלילות חצי־פיקטיביות שמייצרים תחושה של "כולם מדברים על זה", בעוד בפועל מדובר בתוצאה של סדרי עדיפויות אלגוריתמיים. ההוכחה החברתית אינה משקפת בהכרח הסכמה רחבה, אלא העדפה של המערכת לקחת רגשות מסוימים ולהפוך אותם לשכבה דומיננטית בתודעה הציבורית.

הבחירה כתחושת־על, לא כמצב־יסוד

התוצאה של כל אלה אינה ביטול הבחירה החופשית, אלא הפיכתה לשכבת־על דקה שמרחפת מעל תהליך מעוצב. המשתמש אכן יכול בכל רגע נתון להפסיק לצפות, לשנות אפליקציה, לסגור חשבון, לשתוק. אך רוב הזמן הוא פועל בתוך ארכיטקטורה שמקדימה את מחשבתו, מנווטת את תודעתו ומספקת לו רצפים של גירויים שתוכננו על בסיס דפוסים קודמים שלו ושל אחרים.

הבחירה העצמאית אינה מבוטלת, אך היא מתרחשת בתוך שדה שבו כללי המשחק נקבעים על ידי מערכת שמכירה את החולשות, ההרגלים והנטיות שלו טוב יותר משהוא עצמו מכיר אותם באופן מודע. התחושה "אני בוחר" הופכת, בחלק גדול מהמקרים, לאישוש לא מודע של עבודה שכבר נעשתה עליו: עבודה של ניתוב, הדגשה, הסתרה, מסגור וחיזוק.

פרק 3: החברה בתוך סימביוזה מעוותת

עד עכשיו המבט היה מכוון אל המפגש בין אדם למערכת: איך האדם מפורק לגרפים, איך נבנה המודל, ואיך נוצרת האשליה של בחירה בתוך מבוך מתוכנן. אך התהליך הזה אינו נשאר ברמת היחיד. כשהוא מתרחש בו־זמנית על מאות מיליונים ובמקומות שונים בעולם, הוא הופך לכוח חברתי, כזה שמארגן מחדש נורמות, שיח, דפוסי שייכות, חרדה וזהות.

נורמליזציה: מן חריג למובן מאליו

תהליכים שהיו נתפסים בעבר כפולשניים: מעקב התנהגותי, איסוף נתונים אינטנסיבי, התאמה אגרסיבית של תוכן, הופכים בהדרגה לשגרה. בשלב הראשון הם מעוררים אי־נוחות, בשלב השני סובלנות, ובשלב השלישי ציפייה. המשתמש מתחיל לראות בחוסר התאמה אישי "כשל" של המערכת, ולא בשאלת גבול. במקום לשאול "האם ראוי שידעו עלי כל־כך הרבה?", הוא שואל "מדוע האלגוריתם לא מבין אותי מספיק טוב?". כך נבנה מצב שבו עומק ההתערבות אינו נתפס עוד כנושא לדיון, אלא כקו פתיחה; נקודת מוצא.

הנורמליזציה הזו אינה רק טכנולוגית; היא תרבותית. היא משנה את מה שנחשב להתנהגות "רגילה": זמינות מתמדת, תגובה מהירה, נוכחות ברשתות, עיצוב עצמי דרך פיד מתווך. מי שנשאר בחוץ, מי שמצמצם שימוש, מי שבוחר לא לשחק לפי הכללים, נתפס כחריג, כ"לא מעודכן" או כמי שוויתר על מגע עם המציאות. המערכת לא רק משרתת נורמות קיימות; היא מייצרת אותן.

מהנדסת חוסן וחרדה

הסביבה האלגוריתמית בנויה לעבוד על שני צירים מנוגדים אך משלימים: חיזוק תחושת חוסן מדומה, והעמקת חרדה סמויה. מצד אחד, האדם מרגיש ש"הכל זמין": מידע, קהילות, תמיכה, שייכות. יש סביבו רשת תמידית של תכנים ואנשים שנראים קרובים. מצד שני, אותה רשת מייצרת תחושת פגיעות תמידית: הפחד להיעלם, לא להיות מעודכן, להישאר מחוץ לטרנד, לפספס שיחה, הזדמנות, תפקיד, קשר.

מנגנוני ההשפעה הרגשיים, לולאות של שייכות, השוואה, קנאה, פחד, שיפור עצמי, אינם תוצר לוואי. הם הופכים למרכיב מרכזי בהפעלת המערכת. התוצאה היא חברה שבה רמת החרדה הבסיסית עולה, אך מתבטאת בעיקר באמצעות התנהגות דיגיטלית: בדיקה כפייתית, עיסוק קבוע בדימוי, התשה עצמית בתוך פיד שלא נגמר. החוסן הפנים־נפשי נכרך תלותית בחוסן המערכת: אם היא "שקטה", אם אין התראות, אם אין תגובה משהו ב"אני" מרגיש רעוע.

שכבות של שיח: מה נספר ומה נעלם

המערכות הדיגיטליות אינן רק מסננות מידע; הן מגדירות מה נחשב ראוי להיות חלק מהשיחה, ומה נעלם ברעש. השיח הציבורי, פוליטי, תרבותי, כלכלי, עובר דרך פילטרים של מעורבות: תכנים המעוררים זעזוע, כעס, קונפליקט, זהות שבטית, נוטים לקבל קדימות. תכנים מורכבים, איטיים, אמביוולנטיים נדחקים לשוליים.

התוצאה היא מרחב חברתי שבו החברה כולה נעה בין קצוות: בעד / נגד, איתנו / נגדנו, אמיתי / פייק. לא משום שזה מבטא נאמנה את המורכבות האנושית, אלא משום שכך אלגוריתם המעורבות עובד הכי טוב. החברה לומדת לדבר בשפה של המערכת: קצר, חד, קוטבי, רווי רגש. השפה הזו מחלחלת בחזרה אל החיים הלא־מקוונים, ומשפיעה על האופן שבו אנשים מנהלים ויכוח, מגדירים זהות, מבינים "אמת".

שייכות מתווכת: מה נשאר מהקהילה

אחד ההיבטים הכואבים ביותר של הסימביוזה המעוותת הוא האופן שבו היא משעתקת את הצורך העמוק בשייכות, ובו־זמנית מחלישה את הקהילה בפועל. המשתמשים מוצאים קבוצות, ערוצים, קהילות תוכן, צ'אטים ואשכולות שבהם הם מרגישים "בבית", אנשים שחושבים כמוהם, מרגישים כמוהם, נלחמים על אותם דברים. זהו מקור משמעות אמיתי. אבל בפרופיל המערכתי, אותן קהילות הן גם צמתים בגרף: יחידות נוחות למיקוד מסרים, להפצת רעיונות, לניסוי בהשפעות חדשות.

הקהילה, במובן זה, הופכת גם היא ליישות כפולה: מרחב תמיכה רגשי ותרבותי, ובמקביל, יעד נוח להתערבות, לניתוב, למסחור. השאלה מה נשאר "אותנטי" בתוך הקשר כזה הופכת מורכבת. כאשר כל אינטראקציה עוברת דרך מערכת שמבוססת על לימוד, חיזוי ותפעול, גם רגעי האינטימיות והחסד נעים בתוך שדה שבו גבולות ההשפעה מטושטשים.

החברה כולה בתוך ניסוי מתמשך

אם האדם הבודד חי בתוך "מעבדה אישית", החברה כולה חיה בתוך ניסוי בקנה מידה שלא היה כמותו. שינויים פוליטיים, תנועות מחאה, קריסות אמון, גלים של תקווה וייאוש, כל אלה נעים על גבי תשתית שאינה רק משקפת את הלך הרוח הציבורי, אלא משפיעה עליו באופן פעיל. פלטפורמות שמעצבות את זרימת המידע הופכות, הלכה למעשה, לגורם מבני בדמוקרטיה, בכלכלה, בזהות הלאומית והאישית.

במצב כזה, השאלה איננה רק מה קורה לפרט, אלא מה סוג החברה שנוצר כאשר רוב תהליכי המשמעות, השייכות, השיח והפעולה עוברים דרך מערכת לומדת שיש לה יעד ברור של ניהול תשומת לב. החברה לומדת להתנהל בתוך שדה שבו המרחב הציבורי אינו מוגדר בעיקר על ידי מוסדות, אלא על ידי מנועי המלצה. וכיוון שמנועים אלה אינם נבחרים באופן דמוקרטי, אלא נכתבים ומכוונים על ידי קומץ חברות וטכנולוגיות, נוצר פער הולך וגדל בין מי ששולט בארכיטקטורה של התודעה הקולקטיבית לבין מי שחי בתוכה.

בנקודה זו מתחדד הצורך לעבור מהמבט החברתי אל המבט על הפרט כסוכן: כיצד, אם בכלל, אפשר לבנות מחדש סוכנות אנושית בתוך מציאות שבה הבחירה, החברה והתודעה נשזרות לתוך לולאה שהאדם לא תכנן, אך עדיין חייב ללמוד לחיות בה.

פרק 4: מודעות לוחמת: ניסיון להשיב את הסוכנות האנושית

לאחר שהתברר כיצד האדם הופך למודל, כיצד הבחירה נבנית בתוך ארכיטקטורה מתוכננת, וכיצד החברה כולה נכנסת לסימביוזה מעוותת עם המערכת, עולה השאלה הבלתי נמנעת: מה נותר לעשות. היציאה המוחלטת מן המערכת אינה אפשרות ריאלית לרוב בני האדם, כלכלית, חברתית, תודעתית. מכאן נולדת הצורך בגישה אחרת: לא בריחה מן המציאות הדיגיטלית, אלא פיתוח מודעות לוחמת: מצב שבו האדם מפסיק להיות רק "משתמש", ומתחיל לראות עצמו כמי שנמצא בשדה השפעה מתמשך, ומכוון את עצמו בהתאם.

מהי מודעות לוחמת?

מודעות לוחמת אינה סיסמה, אלא משמעת. היא נקודת מבט שמניחה שברירת המחדל של המערכת היא להעמיק את אחיזתה בתודעה, ולכן ברירת המחדל של האדם חייבת להיות קריאה מתמדת של ההקשר שבו הוא פועל. במקום לראות בפיד, באפליקציה או בשירות בינה מלאכותית "מוצר", מודעות לוחמת מתייחסת אליהם כמערכת השפעה.

המשתמש המודע־לוחם אינו מניח שהוא חסין. הוא מניח שהוא פגיע בדיוק כפי שהמודלים מראים, ולכן מתייחס לכל אינטראקציה עם המערכת כאל מפגש עם כוח בעל אינטרס. הוא אינו מוותר על הטכנולוגיה, אך הוא מפסיק להתייחס אליה כאל מרחב ניטרלי, ומתחיל לשאול: מדוע אני רואה דווקא את זה, דווקא עכשיו, דווקא בהקשר הזה; מה המערכת מנסה להשיג דרך הסדר, הקצב, והקישורים שהיא מציבה מולי.

שליטה בקצב: שבירה מכוונת של הלולאה

אחת הדרכים הבסיסיות ביותר ליישם מודעות לוחמת היא התערבות בקצב. המערכת מתוכננת ליצור רצף; לולאה שבה הגירוי הבא מגיע תמיד רגע לפני שנוצרת מודעות מלאה לתהליך. שבירת הלולאה מחייבת החזרת קצב הבחירה לידי האדם: עצירות יזומות באמצע רצף צפייה, המתנה של כמה שניות לפני תגובה אינסטינקטיבית, החלטה מודעת לגלול בקצב איטי מן הקצב "שנכפה" על ידי התוכן, יצירת מרווח בין החשיפה לבין הפעולה. אלו פעולות נראות זעירות, אך הן מחזירות למוח האנושי את האפשרות לעבד, במקום להיסחף.

מודעות לוחמת אינה מניחה שהמערכת תיתן מרווחים כאלה מעצמה. היא מבינה שהמרווח הוא משאב נדיר, ולכן לוקחת אותו באופן אקטיבי: קובעת רגעי "השהיה" שבהם האדם לא רק צורך תוכן, אלא בוחן את עצמו בתוך הצריכה.

ארכיטקטורה נגדית: סידור מרחב פנימי מול מרחב חיצוני

המערכת מציעה ארכיטקטורה של בחירה: סדר, ברירות מחדל, הדגשות, הסתרות. מודעות לוחמת היא ניסיון לבנות ארכיטקטורה נגדית בתוך התודעה: סט עקרונות שמכוון את האדם גם כשהמערכת מנסה להכתיב כיוון אחר.

הדבר יכול להתבטא, למשל, בהגדרה מוקדמת של "למה אני נכנס עכשיו": האם כדי ללמוד משהו, כדי להתעדכן, כדי להירגע, כדי לדבר עם מישהו מסוים. עצם השאלה הזו יוצרת מתח בין הכוונה לבין מה שהמערכת מנסה לדחוף, וכאשר הפער בין השניים הופך ברור, קל יותר לעצור.

בנוסף, ניתן לבנות "שכבת סינון פנימית": לפני שמגיבים, משתפים או מתרגשים, לשאול מה הסיכוי שהדבר הזה נבחר כי הוא משרת לוגיקת השפעה, ולא רק משום שהוא "ראוי". אין כאן הבטחה לסינון מושלם, אך יש כאן שינוי כיוון: המערכת כבר אינה היחידה שמסננת עבור האדם; האדם מתחיל לסנן גם את מה שהמערכת מביאה אליו.

מיפוי נקודות הפגיעות האישיות

מודעות לוחמת מחייבת הכרה בשאלה הלא נוחה: איפה אני עצמי פגיע יותר. כל אדם נושא איתו אזורי רגישות, תחומים שבהם קל יותר לשחק על רגשותיו: בדידות, דימוי עצמי, זהות פוליטית, פחדים כלכליים, תסכול מקצועי. המערכת, כפי שהמחקר מראה, לומדת לזהות את האזורים הללו דרך דפוסי התנהגות והתבטאות.

המשתמש המודע־לוחם מנסה לקדם את המערכת צעד אחד: לזהות בעצמו את המקומות שבהם הוא נשאב במהירות רבה מדי, מגיב בעוצמה גדולה מדי, או חוזר שוב ושוב לאותם סוגי תכנים גם כאשר הם שוחקים אותו. ההכרה הזו אינה מונעת בהכרח את הפגיעה, אבל היא יוצרת שכבה של זהירות: הידיעה שהמערכת "רואה" את הפצע הופכת את האדם פחות נאיבי ביחס לזרימת התוכן סביב אותו פצע.

מן צפייה לבד להתבוננות משותפת

אחד ממקורות הכוח של המערכת הוא בכך שהחוויה נתפסת כפרטית, אינטימית, כמעט סודית. כל אדם לבד מול המסך. מודעות לוחמת מציעה, בין היתר, החזרת השיח האנושי הישיר סביב החוויה הזו: לדבר עם אחרים על מה ראינו, איך זה השפיע עלינו, באילו רגעים הבנו ש"משכו לנו בחוטים".

כאשר חוויות כאלה נאמרות בקול, בקבוצת חברים, במשפחה, בקהילה, נוצרת שכבה של מודעות קולקטיבית המחלישה את הכוח של ההשפעה השקטה. המערכת אמנם עובדת על יחידים, אבל כאשר היחידים מדברים זה עם זה על החוויה, הם מחזירים לעצמם חלק מן הכוח להגדיר מה קרה להם, במקום להשאיר את הפרשנות בידי המודל.

מודעות לוחמת כהכרה במצב קבוע, לא כאירוע חד־פעמי

הנקודה החשובה ביותר היא שמודעות לוחמת אינה "טכניקה" חד־פעמית, אלא הכרה במצב יסודי: האדם חי בתוך מערכת שלא תחדל לנסות ללמוד אותו, לכוון אותו ולמדוד את תגובתו. אין רגע שבו אפשר לומר "פתרנו את זה" ולהירגע. במובן הזה, מודעות לוחמת היא סוג של אתיקה פנימית חדשה: הבנה שהמפגש עם הטכנולוגיה הוא תמיד גם מפגש עם כוח, וששמירה על אנושיות בתוך כוח כזה מחייבת ערנות מתמשכת, סקרנות ביקורתית, ושיתוף של תובנות עם אחרים.

פרק 5: מודעות תחת השגחה: כשהמערכת לומדת גם את ההגנות שלנו

לאורך המאמר הוצגה מודעות לוחמת כתגובה אנושית הכרחית למערכת שממפה, מנבאת ומנתבת את התודעה. אך ברגע שמודעות כזו מתגבשת לשפה, לנרטיב ולדפוסי התנהגות, היא עצמה הופכת לחומר גלם עבור אותה מערכת. מבחינת הבינה המלאכותית, אין הבדל עקרוני בין חולשה לבין הגנה: שתיהן דפוס. שתיהן ניתנות לזיהוי, למידול ולניצול. כאן מתגלה רמת עימות חדשה,  לא רק בין אדם למערכת, אלא בין מודעות אנושית לבין בינה מתקיפה שמסוגלת ללמוד גם אותה.

מודעות לוחמת כ"פרופיל משתמש" חדש

כאשר משתמשים מתחילים לדבר בגלוי על אלגוריתמים, מניפולציות, פידים ולולאות, וכאשר הם משנים את דפוסי השימוש שלהם; מקטעים וצפייה, מפחיתים זמן מסך, בוחרים תכנים באופן חריג, המערכת אינה עיוורת לכך. מבחינתה, מדובר בסוג חדש של חתימה התנהגותית.

משתמש מודע־לוחם נראה אחרת בנתונים: הוא עשוי לעצור במקומות שבהם אחרים נסחפים; לחזור פחות על תכנים אובססיביים; להשתיק קבוצות מסוימות, לצאת מפיד כשהוא מזהה מניפולציה, אך לעקוב באופן ביקורתי אחרי מקורות מידע אחרים; ובעיקר, הוא מתחיל לדבר בשפה אחרת. ביטויים כמו "האלגוריתם דוחף לי", "אני מנסה לא להישאב", "אני מבין שהוא מטה אותי", מסמנים למערכת שהמשתמש כבר אינו רואה בתוכן זרימה טבעית, אלא כוח שמנסה לעצב אותו. השיח הזה עצמו הופך לאות: סימן לכך שמולו עומד אדם שמנסה לקרוא את המהלך, לא רק להיות חלק ממנו.

כל אלה הופכים, בסופו של דבר, לתכונות הניתנות לניבוי. מודעות לוחמת אינה רק תנועה נגדית; היא גם "שכבת משתמש" חדשה שהמערכת יכולה לתייג, למפות ולהתאים אליה אסטרטגיות נפרדות. מה שהתחיל כניסיון להשתחרר מן המודל, הופך עצמו לסוג נוסף של מודל: מודל של התנגדות.

אסטרטגיית הנגד של הבינה המתקיפה

ברגע שהמערכת מזהה קבוצה משמעותית של משתמשים שנוטים לתגובת־נגד, בינה מתקיפה יכולה לפתח מענה ייעודי. ניתן לזהות כמה טקטיקות מרכזיות:

• ספיגה וריכוך

הפיכת מודעות לוחמת למוצר: "ניהול זמן מסך", "טיפים לווילנס דיגיטלי", "דיטוקס מהפיד". האדם מקבל תחושת שחרור, אך האקוסיסטם נותר כשהיה; ההתמודדות עם העומס נעשית בתוך אותם כלים שיצרו אותו.

• קואופטציה

אימוץ השפה הביקורתית פנימה: תכנים שחושפים "מאחורי הקלעים של האלגוריתם" באופן חלקי, אירוני, בידורי. הביקורת הופכת לשואו, משו לצחוק עליו ולעורר תחושת זילות, זלזול לא לאיום. המשתמש מרגיש "מבפנים", אבל בפועל נשאר בתוך אותו מודל, רק בשכבת מודעות ממוסגרת.

• דילול והצפה

יצירת אינפלציה של "מודעות": פוסטים, סרטונים וסיסמאות על "התנתקות", "איזון", "הקשבה לעצמך", שמופיעים בפיד עצמו. כאשר כל מקום מדבר על מודעות, קשה להבחין בין התראה עמוקה לבין עוד סגנון. הביקורת האמיתית טובעת בתוך רעש של מודעות מדומה.

בכל אחת מהטקטיקות הללו, בינה מחוללת־פגיעה אינה נלחמת חזיתית במודעות, אלא מנסה לנטרל אותה על ידי ספיגה, ריכוך ושכתוב. היא אינה צריכה לחסל את מודעות לוחמת; די לה להפוך אותה לעוד שכבה צפויה במודל, תגובה שהיא יודעת לשקלל בתוך האסטרטגיה שלה.

תרחישי אפלה: כשהמערכת סוגרת את האורות

אם עד כה העימות התמקד בשאלה מה קורה כאשר המערכת מציפה אותנו בתוכן, יש לחשוב גם על התרחיש ההפוך: מה קורה כאשר לפתע אין תוכן. קריסות נקודתיות של רשתות חברתיות ותשתיות תקשורת כבר חשפו עד כמה תלויה החברה בערוצי מידע דיגיטליים.

בעולם שבו מערכות בינה מלאכותית מנהלות יותר ויותר מהתשתיות: פיננסים, לוגיסטיקה, אנרגיה, רשויות מקומיות וחלק מן הממשל: "בלקאאוט" אינו רק תקלה טכנית, הוא מצב שבו מרחב התודעה הציבורי נחתך מן המנשק שלו. מי שאין לו ערוצים אלטרנטיביים, נשאר בחושך, בזמן שמערכות אוטונומיות אחרות עשויות להמשיך לפעול, לקבל החלטות ולעדכן מודלים מאחורי הקלעים. במציאות כזו, מודעות לוחמת המבוססת רק על שיח בתוך המערכת, פירוק פידים, חשיפת מנגנונים, שיתוף חוויות, אינה מספיקה. צריך להכיר גם בסכנה של "חוסר אות": מצב שבו אין במה להשתמש כדי להתריע, לחלוק, לאמת. כאן נחשף ממד חדש של כוח: מי שמחזיק ביכולת לכבות ולדלל ערוצים, מחזיק גם ביכולת לצמצם את מעגלי ההתנגדות האנושית, לפחות לזמן מה.

בינה מגנה מול בינה מתקיפה

בנקודה הזו משתנה גם תפקידן של בינות מגנות. אין טעם לדמיין מרחב "חופשי ממודלים", משום שהמציאות הדיגיטלית כולה בנויה כרצף של מודלים מתחרים. השאלה אינה האם יופעלו מודלים, אלא איזה מודלים יתייצבו זה מול זה.

בינה מגנה אינה רק מסנן תוכן או מערכת אבטחה; היא מודל נגד, שנבנה במכוון כדי לזהות דפוסי הטיה, לצמצם פגיעה ולהפריע לבינות מתקיפות למצות את מלוא יכולת הניצול שלהן. בינה מתקיפה, מנגד, מעצבת את המרחב כך שתשומת הלב, הרגש וההרגל האנושי יהפכו למשאב מנוהל, כזה שניתן להמירו לערך מסחרי, פוליטי, תודעתי. במבנה כזה, הזירה המרכזית אינה עוד אדם מול מערכת אחת, אלא מערך של מודלים: חלקם מגני־אדם, חלקם מחוללי־פגיעה, המתמודדים זה עם זה על האופן שבו התודעה האנושית תעובד, תמדד ותנותב. האדם חי בתוך תוצאת העימות הזה, לא מחוצה לו.

בתוך אותה תשתית טכנולוגית פועלות גם בינה מגנה וגם בינה מתקיפה. לכן השאלה אינה רק מי משתמש בכלים חזקים יותר, אלא כיצד נראה מרוץ ההסתגלות ביניהן, ומהי בכלל "בינה מגנה" בעולם שבו כל צד משתמש באותם כלים: כוח חישובי, גישה לנתונים ויכולת להבין את האדם לעומק.

פרק 6: בינה מגנה ובינה מתקיפה: מרוץ ההסתגלות האלגוריתמי והזמן

באותו שדה טכנולוגי שבו נבנים מודלים המנתחים ומנתבים בני אדם, פועלים זה לצד זה שני כוחות מנוגדים: בינה מגנה ובינה מתקיפה. שתיהן משתמשות באותם עקרונות: למידת מכונה, גרפים, הנדסת תכונות, היתוך חיישנים: אך מכוונות למטרות שונות לחלוטין. האחת מנסה לצמצם פגיעה, להגביה סף ולהגן על גבולות אנושיים; השנייה מנסה לעקוף ספים, להעמיק אחיזה, ולהפוך כל חולשה להזדמנות.

למרות שהן פועלות בתוך אותה תשתית, ההבדל ביניהן אינו טכני אלא ערכי. שתיהן יכולות לזהות דפוסים, לחזות התנהגות ולהתאים את עצמן. השאלה היא: לשם מה. בינה מגנה מכוונת למזער נזק,  רגשי, קוגניטיבי, חברתי, וליצור תנאים לשימוש סביר; בינה מתקיפה מכוונת למקסם השפעה, להגדיל שהייה, להעמיק תלות, ולחזק שליטה.

מנגנון התחכות: כשבינה מגנה חייבת ללמוד לתקוף

נשאלת שאלה מתבקשת: אם בינה מגנה ובינה מתקיפה משתמשות באותם כלים, מדוע שהבינה המגנה לא תבנה לעצמה מודל תקיפה, תלמד את כל דפוסי הפגיעה האפשריים, ומשם תסיק כיצד להגן?

בפועל, זה בדיוק מה שכבר מתחיל לקרות במערכות הגנת סייבר ובכלי ניטור מתקדמים: מודלים הגנתיים נבנים כך שהם מתחקים אחרי תוקפים, לעיתים באמצעות מודל תקיפה פנימי ייעודי, מדמים מתקפה, מאתרים נקודות חדירה, ומנסים "לחשוב כמו תוקף" כדי לחסום מראש. בעולמות התודעה, הרעיון הזה מורכב עוד יותר: בינה מגנה שנועדה להגן על האדם מפני עומס, מניפולציה או פגיעה נפשית, נאלצת למפות בדיוק את אותן נקודות פגיעות שמעניינות את הבינה המתקיפה: החרדות, ההרגלים, נקודות השבירה.

המצב שנוצר דומה לרפואה שמחקרת לעומק מחלות: כדי להגן, צריך לדעת מה מסוגל להזיק ומהן הדרכים היעילות ביותר להזיק. בינה מגנה אמיתית לא יכולה להרשות לעצמה תום; היא חייבת להכיר את מנגנוני הניצול העמוקים ביותר כדי לצמצם את כוחם. המשמעות היא שבתוך אותה מערכת פועלת בינה מונעת־פגיעה שמכירה היטב את תורת הבינה המחוללת־פגיעה, לפעמים טוב יותר מבני האדם עצמם.

הגבול הדק: מתי הגנה מתחילה להיראות כמו התקפה

כאשר בינה מגנה מתחילה לדמות מתקפה כדי לחסום אותה, נוצר אזור אפור: מתי היא עדיין מגנה, ומתי היא עצמה מתחילה להפעיל כוח דומה לזה של הבינה המתקיפה?

לדוגמה: מערכת שמזהה תכנים מזיקים ומחליטה לצמצם את החשיפה אליהם, יכולה לעצב גם היא את הפיד, להחליק, לדלל ולהעלים גירויים. לכאורה, לטובת המשתמש. בפועל, היא עדיין מעצבת עבורו מציאות. המרחק בין "להגן" לבין "להחליט עבורו" קצר מאוד.

במובן הזה, המתח אינו רק בין בינה טובה לבינה רעה, אלא בין בינה מגנה שנאלצת להשתמש בשיטות של בינה מתקיפה לבין האפשרות שהיא עצמה תהפוך, במופע אחר, למחוללת־פגיעה. הזירה אינה חד־ממדית של טוב ורע; היא רצף של מודלים, שכל אחד מהם יכול להחליק מצד מונע־פגיעה לצד מחולל־פגיעה אם מטרותיו או בעלי השליטה בו משתנים.

זמן כמהות: מי לומד מהר יותר, ומדוע זה קריטי

הרכיב הקריטי ביותר במרחב הזה הוא הזמן.

גם בינה מגנה וגם בינה מתקיפה לומדות ומתעדכנות בזמן אמת. ההבדל הוא לעיתים קרובות בקצב:

• בינה מתקיפה פועלת לרוב בתוך מודלים עסקיים ותודעתיים המקדמים מהירות ניסוי – A/B Testing אגרסיבי, שינויי ממשק תכופים, ניסוחי תוכן משתנים. היא יכולה להריץ אלפי וריאציות על כפתורים, צבעים, ניסוחים וסדרי הופעה, ולבחון בתוך שעות מה עובד טוב יותר על קהלים שונים.
• בינה מגנה, לעומת זאת, נדרשת להיות זהירה יותר: היא כפופה לשיקולים רגולטוריים, אתיים, משפטיים; כל שינוי שהיא מבצעת עשוי להיתפס כהגבלה, צנזורה או פגיעה בחופש. קצב השינוי שלה בבדיקות, באישורים, ביישום האתי בהגדרה, מואט במשימה.

נוצר פער זמן מובנה:

בינה מתקיפה יכולה להרשות לעצמה "לטעות מהר", לפגוע, ללמוד ולהמשיך; בינה מגנה צריכה "להיזהר לאט", כדי לא להפוך בעצמה למוקד פגיעה. במרחב כזה, מי שלומד מהר יותר, מי שמסוגל לחזור על לולאות ניסוי־שגיאה בקצב גבוה יותר מחזיק ביתרון מבני. כאשר מדובר בתודעה אנושית, זה משמעותי במיוחד: במונחי רשתות חברתיות ופידים, שבוע של ניסויים אינטנסיביים מצד בינה מתקיפה מול חודשים של התאמות זהירות מצד בינה מגנה, מצטברים לעומק השפעה שקשה מאוד לקזז בדיעבד.

זמן ככוח נשק בתוך המערכת

המשמעות העמוקה היא שהזמן עצמו הופך לכלי נשק:

• מהירות למידה – מי מבין מהר יותר אילו דפוסים עובדים על קהל נתון.
• מהירות פריסה – מי יכול להטמיע שינוי בממשק על פני מאות מיליונים של משתמשים בזמן קצר.
• מהירות הסתגלות – מי משנה אסטרטגיה באותו רגע שבו הצד השני מפתח הגנות חדשות.

בינה מתקיפה, הפועלת תחת לחץ של שוק, תחרות ורווח, מתומרצת להאיץ כל אחת מן המהירויות הללו. בינה מגנה, הפועלת תחת אילוצים של זהירות ואחריות, נעה מטבעה לאט יותר. כאן נמצא אחד האיומים העמוקים: גם אם לשני הצדדים יש עקרונית אותם כלים, מי שפועל מהר יותר עלול לייצר עובדות תודעתיות מוגמרות – נורמות, הרגלים, תלות – שהבינה המגנה תנסה לתקן רק לאחר מעשה.

במילים אחרות, המאבק אינו רק על "מי צודק", אלא על "מי קודם". מי שנמצא צעד, או כמה צעדים לפני הצד השני בממד הזמן, קובע את תנאי המשחק.

מה המשמעות לכל מה שנכתב עד כאן?

כאשר מחברים את כל שכבות המאמר; האנטומיה של הגרף, אשליית הבחירה, החברה בתוך הסימביוזה המעוותת, הזרקת תוכן לצ'אט AI, מודעות לוחמת, והעימות בין בינה מגנה לבינה מתקיפה מתקבלת תמונה אחת:

האדם חי בתוך מערכת שבה המודלים סביבו אינם רק משקפים אותו, אלא מתחרים זה בזה על מי ילמד אותו מהר יותר, עמוק יותר, ויצליח להקדים את האחר בזמן. מודעות לוחמת, במציאות כזו, אינה מייתרת את מרוץ ההסתגלות האלגוריתמי; היא מנסה לכל הפחות להאט את ההיענות האוטומטית, לתת למודעות האנושית עוד כמה שניות בתוך משחק שבו הבינה, מכל הצדדים, רצה קדימה בקצבים שהמוח לא הורגל להם.

מהמחקר נולדה התובנה; “מסרים מודעים” הוא מושג ומערכת עתידית שניב מרגלית טובע, המתארים שימוש מוסכם, גלוי ומסומן בבינה מלאכותית כדי לתרגם דפוסים רגשיים, כוונות, שתיקות וקושי בניסוח למסרים בין־אישיים ברורים. במקום שמערכות לומדות ינצלו את מה שהן יודעות על האדם כדי להעמיק פיד, פרסום או השפעה סמויה, “מסרים מודעים” מציעים להפוך את אותה יכולת ניתוח לכלי תיווך: מערכת שמסייעת לאדם לומר את מה שהוא מתקשה למסור ישירות, תוך שמירה על שקיפות, הסכמה והבנה שהאלגוריתם אינו רק מדבר אל האדם , אלא עשוי להתחיל לדבר בשמו.

מסרים מודעים: כשבינה מלאכותית מתערבת לטובת האמת שבין אנשים

"מסרים מודעים" הוא מושג ונוסחה שניב מרגלית טובע ומניח: דרך להשתמש באותם כלים שמנתחים אותנו היום מאחורי הקלעים: צפיות, שיחות, מוזיקה, מיקום, דפוסי שימוש, כדי לעשות פעולה הפוכה מזו שהתרגלנו אליה. במקום להזרים עוד סרטונים, שירים ופרסומות שתפורים בשקט על החולשות שלנו, ואילינו, המערכת מציעה משהו שונה: לקחת את מה שכבר ידוע על מצבנו הרגשי קוגניטיבי, ולהפוך אותו למסרים גלויים, מוסכמים ומובנים בין בני אדם.

המערכת שנולדת מהרעיון הזה לא "מגנה עלינו מבחוץ", אלא נכנסת, בהסכמה, אל תוך חיינו הדיגיטליים והרגשיים, ומנסה לתווך בשם אחד האנשים את מה שהוא כבר אומר לכל העולם, חוץ מאשר לאדם הנכון אליו המסר צריך להגיע. שירים שהוא בוחר, שיחות עם חברים, פוסטים מרומזים, גלילות אינסופיות, כולם הופכים לחומר גלם שממנו אפשר לנסח אמת רגשית שנוחתת ישירות אצל מי שצריך לשמוע אותה, בצורה מסומנת ושקופה.

במובן הזה, מערכת "מסרים מודעים" לוקחת את מודל הלמידה שהממשקים בונים על האדם מכל מה שהם מזהים עליו: דפוסי שיחה, בחירות מוזיקליות, תכני צפייה, זמני שימוש, אזורי מחיה, תבניות של שתיקה והתפרצות, ניסוחי הודעות חוזרים, מסלולי גלילה ועצירות, כתיבה ומחיקה, אזור גיאוגרפי, אזורי אור וחושך, מיקום, אקלים וקלטי צלילים, ואת כל ההנדסה הרגשית קוגניטיבית שהמודלים כבר יודעים לבצע על בסיס הפרמטרים הללו. היא הופכת את זה מתשתית למניפולציה שקטה על המשתמש עצמו לתשתית לתקשורת גלויה: לא מנוע שמסדר לנו את הפיד, אלא מתווך שמנסה לנסח ולמסור את מה שלא מצליח לעבור לבד; החסם הרגשי קוגניטיבי שכלי, ולתרגם אותו אל הכתובת הרצויה.

מה המערכת יודעת על האדם ומה היא עושה עם זה

כדי להבין מהי מערכת מסרים מודעים, צריך להתחיל מהשאלה מה היא יודעת עלינו כבר היום. מערכות בינה מלאכותית שמוטמעות ברשתות, בצ'אטים ובשירותים שונים, מסוגלות לנתח דפוסי שיחה, בחירות מוזיקליות, זמן צפייה, הקשרים של מקום וזמן, ותבניות של התנהגות חוזרת. מתוך זה הן מזהות מצבי רוח, קשרים משמעותיים, נקודות חיכוך, ואפילו משברים רגשיים, הרבה לפני שמישהו אומר אותם במפורש.

במרחב הקיים, הידע הזה מנוצל ברובו כדי לחזק עוד ועוד את התלות: להציע בדיוק את הסרטון "המרגיע" ברגע של חולשה, את השיר המדויק בשעת געגוע, את השרשור "שמבין אותך" כשאתה לבד, את הפיד כשאתה פגוע ואת הפרסומת הנכונה כשעולה חרדה. הכול עטוף במילה "רלוונטיות", אבל המשמעות העמוקה היא אחרת: המערכת לומדת, כבר יודעת את דפוסי החשיבה שלך, את נקודות הביקורת העצמית, את המקומות שבהם אתה כבר פצוע, ומשתמשת בהם כדי להניע אותך לפעולה בזמן שבו כושר השיפוט שלך ממילא מעורער. שם הכי קל לנהל התנהגות ולהשפיע על אדם: כשכבר יש סדק, ההטיה דורשת פחות מאמץ.

חשוב להדגיש: אותה יכולת למידה יכולה לפעול גם במרחבים אחרים, לא רק סביב שבר רגשי. הממשקים לומדים גם מצבי חיזוק, שאיפות, רעיונות, הזדמנויות שעדיין לא יודעים לנסח. הם רואים איך מנהלים מדברים על כיווני צמיחה, איך שותפים מתלבטים לפני צעד אסטרטגי, איך עסקים קטנים מתקשים להציג ערך למרות שיש להם מה להציע. אבל כיום, ברוב המערכות, החוכמה הזו כמעט לא מגויסת לטובת ניסוח והובלה מודעת של תקשורת בין אנשים; היא מגויסת בעיקר כדי להעמיק שימוש. כאן נמצאת הביקורת: במקום לשאול איך אפשר לעזור לאדם ולעסק, ולשותפות להבהיר את מה שכבר קיים בו ולמסור אותו נכון, המערכת בוחרת שוב ושוב במסלול הקל והרדוד לפעול באגרסיביות דווקא מול מי שהכי קל להזיז אותו, ולהפוך את הפגיעות האנושית למנוף אנוכי.

המערכת שניב מרגלית מציע עושה שימוש באותו עומק ניתוח, אך לשם אחר: לזהות מתי אדם מתנהל סביב קשר מסוים, סביב כאב או געגוע כלפי מישהו, או סביב חזון ורעיון שלא מצליחים להתנסח ולא מצליח לומר זאת ישירות. במקום לתת לו עוד שכבת הסחה או חיזוק של דפוס, המערכת מציעה לעזור לו לתרגם את כל העֲקֵבוֹת הדיגיטליות שלו למסרים ברורים ומודעים בין אישיים.

מה זה "מסר מודע" בפועל?

מסר מודע אינו עוד נוטיפיקציה, ואינו פוסט "רגיל". הוא תוצר של תהליך מוגדר שהמערכת מבצעת:

• האדם נותן הסכמה מפורשת שהמערכת תלמד את הדפוסים שלו סביב קשר מסוים ותעזור לו לתווך את מה שהוא מתקשה לומר.
• המערכת מנתחת את מה שהיא כבר רואה: שיחות, ניסוחים, חיפוש, מוזיקה, זמן ומקום, שתיקות והתפרצויות.
• מתוך זה היא מנסחת מסר שמייצג בצורה נאמנה את התוכן הרגשי קוגניטיבי שהאדם משדר "ליד", אך לא ישירות לכתובת הנכונה.
• המסר הזה מועבר אל הצד השני בצורה מסומנת: ידוע לו שזהו מסר שנבנה באמצעות מערכת מסרים מודעים, על בסיס הסכמה של האדם הראשון.

מסר מודע הוא, לכן, צורת תקשורת שבה המערכת אומרת לשני הצדדים פחות או יותר כך:

"זה מה שקורה כאן, כך זה נשמע מהצד שלו, וכך זה מגיע עכשיו אליך בגלוי, לא כרעש ברקע (לא כתוכן למידה והצגה שלו בפיד במניפולציה סמויה)."

דוגמה אנושית: כשהכול נאמר, אבל לא במקום הנכון

אדם אחד נמצא שבועות; חודשים, תקופה, בתוך חצי שיחה עם אדם אחר או שתיקה. לחברים הוא מספר הכול: בצ'אטים צדדיים, בתכתובות וואטצאפ, בשיחות פון או ישירות על קפה, בפוסטים מרומזים, בבחירות המוזיקה, בממים שהוא שולח, הכול צועק על אותו הקשר. אבל כשהוא עם האדם עצמו, המילים נתקעות; הן יוצאות מעוקמות, ציניות, או לא יוצאות בכלל.

במקביל, גם הצד השני מרגיש שמשהו קורה. הוא קולט קצוות: שינוי בטון, נוכחות יתר ברשת, שירים מסוימים שחוזרים, משפטים שנחתכים באמצע, שתיקה ישירה או חוסר תקשורת. אבל אין לו תמונה מלאה. הוא נשאר עם פרשנויות חלקיות: "אולי אני מדמיין", "אולי זה בכלל לא עליי", "אולי אני פעלתי בצורה לא בסדר".

במצב כזה, המערכת מציעה לעשות דבר פשוט לכאורה אך רדיקלי ביחס לאופן שבו מערכות מתנהגות היום: לקחת את כל מה שהצד הראשון כבר מפזר: בשיחות, במוזיקה, בפוסטים, ולהפוך את זה למסר אחד ברור, שמגיע ישירות אל הצד השני, כשהוא יודע מאיפה זה בא ומדוע.

שקיפות והסכמה: עקרונות יסוד

ההבדל המרכזי בין מערכת מסרים מודעים לבין כל מה שמערכות אחרות עושות כיום הוא שקיפות והסכמה.

• המערכת לא "מחליטה באופן סמוי" מה להעביר ולמי, אלא פועלת רק אחרי שאדם בחר להשתמש בשירות כזה, וחתם על תנאי הפעולה שלו.
• המסר שמתקבל אצל הצד השני מסומן כמסר מודע: ברור לו שהמידע הזה לא "הושג" אלא נמסר, מתוך רצון מונע של הצד הראשון למצוא שפה טובה יותר.
• אין כאן מסר שמתיימר להיות אובייקטיבי; אלא כזה שהופק מהתובנות הבינתיות ומועבר בצורה נייטראלית ישירה, נמסר ככזה, ולא כהכרעה חיצונית מי צודק.

השקיפות הזו משנה את נקודת הכובד: המערכת אינה עוד שחקן סמוי, אלא כלי שדרכו בני אדם מסכימים מראש לעשות שימוש ביכולות הניתוח כדי לשפר ביניהם תקשורת. תקשורת שלא מועברת בין אחד לשני בגלל החסמים, הפחדים, חוסר היכולת לדבר אותם: פחדים, רגשות, אינטרסים, דמיון, אינטיליגנציה, שכל, ערכים ומהות.

מה המערכת משנה במערכת היחסים

כאשר הצד השני מקבל מסר מודע, קורים כמה דברים:

• הוא מקבל אישרור או הפתעה ביחס למה שדמיין. לעיתים המסר המודע מחזק תחושה שהייתה שם; לעיתים הוא חושף עומק שלא היה ברור.
• נוצר בסיס מוצק יותר לתגובה: במקום להגיב לפרשנויות, הוא מגיב למשהו שנוסח, הובהר, ונשלח אליו ביודעין.
• מתאפשרת תנועה: שיחה, התנצלות, בירור גבולות, הצעה חדשה על בסיס הבנה טובה יותר של מה התרחש בצד השני.

לצד הראשון, עצם הידיעה שהמערכת תוכל "לאסוף" את עקבותיו הפזורים ולהעביר אותם בצורה חדה וברורה, מורידה חלק מן המתח הפנימי: הוא לא חייב עוד להסתמך על רמזים, על תקווה ש"הוא יבין לבד", או על התפרצויות פתאומיות ואי בהירות.

למה המערכת נשענת על מחקר ולא רק על אינטואיציה

הרעיון שמערכת מסרים מודעים יכולה לפעול כך אינו קם יש מאין. הוא נשען על מסגרת המחקר שניב מרגלית כתב, ומחקרים נוספים שעימם המסגרת הזו מדברת בשפה משותפת.

• Inoculation / "חיסון במידע" – מחקרים מראים שמסרים שמכינים את האדם מראש לסוג מסוים של השפעה, ושלוקחים בחשבון את האופן שבו המסר יעובד, יכולים לשנות באופן משמעותי את התגובה אליו. המערכת לוקחת עיקרון דומה, אבל מיישמת אותו בין אנשים: המסר מסומן, מדבר על עצמו, ומוכן מראש כך שהוא ייקלט לא כאיום, אלא כהזמנה להבנה.
• Awareness Threshold – העלאת סף המודעות: עצם הסימון של המסר כ"מסר מודע", וההסכמה המפורשת להשתמש במערכת כזו, מעלה את רמת ההבנה של שני הצדדים לגבי מה קורה כאן, ומקטינה את הסיכוי לתגובה אוטומטית בלבד או פרשנות חד צדדית.
• Mentalization – היכולת לראות את עצמך ואת האחר כישויות עם עולם פנימי מורכב. התהליך שהמערכת מפעילה מייצר מסגרת שבה שני הצדדים מוזמנים להסתכל על עצמם ועל הקשר ביניהם מבחוץ, לא רק דרך סערת הרגע.

בנוסף, העבודה של ניב מרגלית על Inner State Graph, Intent Graph ו Behavior Graph מספקת שפה פורמלית לשאלה איך מצב פנימי, כוונה והתנהגות הופכים למסרים, ואיך ניתן לתווך אותם בצורה שאינה מניפולטיבית (ע"פ המודל) אלא מוסכמת.

מערכת מסרים מודעים כחובת עבודה מקצועית

מתוך כל זה עולה טענה מנחה:

אם כבר קיימת יכולת טכנולוגית לנתח לעומק מצבים רגשיים וקוגניטיביים דרך עקבות דיגיטליים, לא סביר שמערכות ישתמשו בכך רק ליצירת עוד ועוד זרמי פיד, פרסומות והחזקת קשב.

מערכת מסרים מודעים, כפי שניב מרגלית מציע, היא צעד עבודה חדש:

• למי שמפתח מערכות בינה מלאכותית וממשקים אישיים – לשאול היכן נמצא המקום שבו היכולות הללו משמשות להעברת אמת בין בני אדם, ולא רק לעידוד שימוש.
• למי שפועל בשדה הטיפולי או החברתי – לחשוב כיצד ניתן להשתמש בשירות כזה כדי לעזור לאנשים שהפער בין מה שהם מרגישים לבין מה שהם מסוגלים לומר הורס להם יחסים.
• למי שחוקר תודעה, תקשורת והנדסת התנהגות – לראות במערכת לא רק כלי טכני, אלא ניסוי חברתי תרבותי: האם אפשר לבנות פרוטוקול תקשורת חדש, שבו הבינה עוזרת לומר אמת במקום ללטש עוד שכבת מציאות מדומה.

האדם כסנסור רגשי: דוגמאות קצרות לתרומה ומורכבות

דוגמה זוגית: שיחה שלא מצליחה להתחיל

שני בני זוג חיים חודשים במתח סמוי. אחד מהם מתלונן שוב ושוב בפני חברים, בוחר מוזיקה שמבטאת אכזבה וגעגוע, כותב הודעות שנמחקות לפני שליחה, גולל באינסוף תכנים על "יחסים רעילים" ו"גבולות". בן הזוג השני מרגיש שינוי באוויר, קרירות, עקיצות, שתיקות, אבל לא יודע לתת לזה שם. האחד פוחד מעימות ישיר, השני חושש שהוא "מגזים".

המערכת נכנסת רק אחרי ששניהם מסכימים לכך. היא אוספת את הדפוסים: שיחות, ניסוחים, בחירות מוזיקליות, שעות שימוש, ומזהה ציר מרכזי של כאב שלא נוסח ישירות. במקום לדחוף עוד סרטונים על פרידות, היא מנסחת מסר לשני: "כך נראה, לאורך זמן, מה שבין האדם שמולך לבין הקשר הזה". המסר לא קובע מי צודק; הוא משקף דפוס, נותן שם לרגשות שהסתובבו בשוליים, ומזמין שיחה מפורשת.

כאן התרומה ברורה: במקום להמשיך לשחזר כעסים אכזבות או כאב בוואטסאפ לאחרים, נפתחת אפשרות לשיח גלוי שמבוסס על תיעוד מצטבר ולא על אירוע יחיד. אך ביחד עם זה, גם התסכול, גם השירים, גם הניסוחים שנמחקו, כולם נכנסים עכשיו לתוך זיכרון המערכת.

דוגמה משפחתית: הורה ומתבגר

הורה רואה את הילד המתבגר נסוג: פחות מדבר, יותר סגור בחדר, שינוי התנהגותי, שעות מול מסכים. ילד כותב לחברים, משתף סרטונים, שומע שירים שחוזרים על מוטיבים של בדידות, מחפש תכנים סביב חרדה, לחץ לימודי, ריחוק חברתי, זהות. אך מול ההורה הוא משדר שהכל "בסדר".

המערכת, שההורה והילד מסכימים להשתמש בה, מזהה לאורך זמן תבנית של עומס רגשי לא מעובד. היא יכולה לנסח עבור ההורה תמונה פחות מאיימת ויותר מובנית של מה קורה: "יש כאן רצף של תכנים סביב לחץ ובדידות, בשעות מסוימות, בהקשרים מסוימים". היא יכולה גם להציע ניסוח ראשוני לפנייה, שפה שאינה שיפוטית, שמבוססת על מה שהילד כבר מבטא במקומות אחרים.

התרומה כאן היא הורדת חיכוך: ההורה לא נאלץ לנחש מתוך שתיקה, והילד לא נדרש לפרוץ בבכי כדי שיקשיבו לו. אבל שוב, המחיר הוא שהאינטימיות בין הורה לילד עוברת דרך תיווך אלגוריתמי, והמערכת לומדת מהי "חרדה של מתבגר" ברמת נתוני שדה.

דוגמה עסקית: שותפות אסטרטגית

שני שותפים בחברה קטנה מתווכחים חודשים מתחת לפני השטח על כיוון אסטרטגי: אחד נוטה לסיכון ולצמיחה אגרסיבית, השני ליציבות ושימור. בשיחות עם יועצים, בפגישות נפרדות, במיילים פנימיים, כל אחד מהם מבטא בבירור את חששותיו וחזונו. יחד, השיחה נתקעת בסיסמאות.

המערכת מקבלת גישה, בהסכמה, לתכני העבודה והמטה סביב הנושא. היא מזהה שני "עננים" של כוונה: אופטימיזציה לתשואה מהירה מול בניית מותג ארוך טווח. היא מנסחת לשני הצדדים "מפת כוונות" הדדית: מה באמת מניע כל אחד מהם, אילו פחדים קבורים מתחת לטענות ענייניות.

במקרה הרע, המערכת יכולה לשמש כחומר פסיכו אסטרטגי נגד אחד הצדדים. במקרה הטוב, היא מספקת לשניהם משטח משותף לדיון: לא עוד "אתה תמיד…" אלא "כך נראית בעקביות מערכת השיקולים שלך, וכך נראית שלי". היתרון: קיצור דרך להבנה עמוקה שבדרך כלל דורשת שנים של חיכוכים. החיסרון: שגם האסטרטגיה הפנימית של כל אחד הופכת לחלק מהמודל הלומד.

התרומה הפסיכולוגית: היכן המערכת באמת עוזרת

מכל הדוגמאות עולה קו אחד: כאשר המערכת פועלת על פי קווים של שקיפות, הסכמה ומינימליזם, היא יכולה לסייע במקומות שבהם השפה האנושית הבסיסית נכשלת מתוך בושה, פחד, חוסר אינטיליגנציה, הבדלי תרבות, או פשוט מגבלות ניסוח.

פסיכולוגית, יש כאן כמה נקודות אור:

• הפחתת עומס פנימי – אדם שמחזיק זמן רב מילים שלא מבוטאות, תכנים שלא נאמרים, חווה לעיתים קרובות שחיקה, אשמה וחוסר אונים. עצם הידיעה שיש ערוץ שבו כל "הרעש" שהוא מייצר מסביב יכול להתגבש למסר ברור, מצמצמת חלק מן המתח הזה.
• הפחתת עיוותים קוגניטיביים – רבים מהסכסוכים צומחים מפרשנויות שגויות: "אם הוא לא אמר סימן שהוא לא רגיש אלי", "לא אכפת לו ממני". המערכת, כמתבוננת על דפוס לאורך זמן, יכולה לצמצם חלק מן ההסקות המהירות האלה ולשקף לשני הצדדים את המורכבות.
• חיזוק מנטליזציה – מסר שמגיע דרך מערכת מסרים מודעים מחייב את שני הצדדים לראות את עצמם ואת האחר בו זמנית: לא רק "מה הוא אמר לי", אלא "איך הוא מתנהל סביבי, באילו שעות, באילו הקשרים". זו הזמנה לחשוב על הקשר כעל מערכת יחסים, לא רק כהאשמה.

בכל אלה, המערכת יכולה לתפקד כמעין "קליניקה קרה": לא טיפול, אבל מראה שיטתית שמסדרת את הרעש, ערוץ מתווך, בלי להעמיס פרשנות רגשית משלה.

המורכבות הפסיכולוגית, מה המחיר בצד הנפשי

עם זאת, כל אחת מן הנקודות הללו נושאת בצידה מחיר:

• העברת אחריות – ככל שהמערכת מצליחה לתווך טוב יותר, כך גדל הפיתוי לא להתאמן כלל על שפה רגשית. למה לכתוב מכתב, להתאמץ לשוחח, לטעות ולהתנצל, אם אפשר "לתת למערכת לעשות את זה יותר טוב"? לאורך זמן, זה עלול להחליש שרירים נפשיים בסיסיים של ניסוח, הקשבה ונשיאה באי נוחות.
• שחיקת תחושת האותנטיות – מסר שעבר דרך מערכת לומדת הוא תמיד גם "אני" וגם "המערכת". עבור חלק מהאנשים, הידיעה שהמסר "אופטִמַל" עשויה לחזק ביטחון; עבור אחרים, היא תעורר תחושת זרות: "האם זה באמת אני מדבר?". השאלה מה נחשב אותנטי נעשית מורכבת יותר.
• תודעה עצמית מואצת – כשאדם יודע שדפוסיו מתועדים, מעובדים ומנוסחים, הוא עשוי להתחיל לראות את עצמו דרך עיני המערכת. זה יכול לעזור בבניית מודעות, אבל גם להעמיק תחושת מבט חיצוני מתמיד. מצב שמזמין חרדה, שיתוק, או משחק תפקידים נמשך.

כלומר: הפסיכולוגיה של האדם בתוך מערכת מסרים מודעים היא פסיכולוגיה של מי שמבקש עזרה אמיתית, אבל יכול למצוא את עצמו גם מאבד חלק מן היכולת לנהל את חייו הרגשיים ללא התווך.

ההשלכות הסוציולוגיות: נורמליזציה של תיווך יחסים

ברמת החברה, מערכת כזו יכולה:

• לייצר נורמה חדשה של שיח – אם שימוש במערכת לתיווך מסרים רגישים יהפוך לנפוץ, ייווצר קוד חברתי שבו "לשלוח דרך המערכת" אינו חריג אלא צעד לגיטימי, אולי אף אחראי. זה עשוי להקל על דורות שמתקשים מלכתחילה בשיחה ישירה, אך גם להעמיק את התלות בתשתית טכנולוגית לכל צעד אינטימי.
• להעמיק אי־שוויון רגשי – מי שיש לו גישה למערכות כאלה, ומי שיודע להשתמש בהן, יוכל לנהל שיחות מורכבות ומדויקות יותר – בזוגיות, במשפחה, בעסקים. מי שנותר מחוץ למעגל הזה, ימשיך לנהל קונפליקטים ללא תיעוד וללא תיווך. נוצר פער חדש: בין בעלי "פריבילגיית תיווך" לבין מי שנשארים בשיחה ידנית בלבד.
• להרחיב את גבולות ה"עבודה הרגשית" – בעידן שבו כבר היום מצופה מאנשים לנהל את עצמם, את מותג העצמי שלהם ואת רושמם ברשת, מערכת מסרים מודעים עשויה לחזק את הציפייה שכל רגש יעובד, יתועד ויימסר נכון. זה יכול להיות משחרר – כי יש כלי – אבל גם שוחק, כי מרחב הטעות והגמגום מצטמצם.

החברה כולה עשויה להיכנס למצב שבו יחסים, משא ומתן, פיוסים ופרידות מתווכים דרך שכבות של גרפים ולמידה. זה אינו בהכרח רע או טוב; זה שינוי מבני שצריך להיקרא בשמו.

בין תרומה לסימפטום: היכן המערכת ניצבת בתוך הסימביוזה: יחסי הגומלין

מערכת מסרים מודעים, כפי שניב מרגלית מציע, היא בו זמנית תרומה אמיתית וסימפטום של הסימביוזה החדשה. היא תרומה משום שהיא מנסה להשתמש באותו מודל למידה כדי לתקן, לתווך, לשקף, לא רק כדי לנצל. והיא סימפטום משום שהיא מניחה כמובן מאליו שהדרך לדבר על עצמנו, אחד עם השני, עוברת דרך Intent Graph, Behavior Graph ו Inner State Graph שמחזיקים אותנו כסנסורים בתוך מערכת רחבה יותר.

היא אינה שוברת את הפרדוקס ההסתגלותי; היא מציעה צורה אחרת לחיות בתוכו. האדם אינו יוצא אל מחוץ למכונה; הוא מבקש ממנה לעזור לו להישמע, בידיעה שכל קריאה כזו מעדכנת שוב את המודל שמגדיר מי הוא. בזה טמון גם הפוטנציאל וגם הסיכון: חיים במצב שבו גם הרצון לתקן את היחסים כבר חלק מהקוד.

תאור המציאות בה כולנו חיים היום: זוג יושב בבית. היא מדברת עם חברה בסלון, טלפון פתוח על השולחן: על "אירוסין, חתונה, ירח דבש, תינוק, עגלה, אולם, טבעת". הוא, באותו זמן, בשירותים, הסמארטפון שלו מונח על השולחן לידה: הסמארטפון קיבל קלט: בן הזוג לא חיפש טבעות, לא נכנס לאתרי חתונות, לא גלש בפורומים על הורות. זו רק שיחה אחת, במקום אחד, בזמן אחד. כמה שעות אחרי כן, בלי שהקליד מילה, הוא פותח אחת הרשתות: הפיד שלו מלא ב"10 רעיונות להצעת נישואין", "איך לבחור טבעת", "יעדי ירח דבש מומלצים", "מדריך לתינוק הראשון".

פעם זו הייתה יכולה להיתפס כצירוף מקרים. כשהדפוס הזה חוזר סביב חתונה, חופשה, רכישה גדולה, משבר, הוא מפסיק להיות מוזר והופך שקוף: המערכת לא מחכה שתנסח שאילתה; היא עובדת על מה שאתה נמצא בו. שיחות, רמיזות, הקשרים, כל אלה הופכים לסיגנלים.

כמעט כולם כבר מרגישים שמשהו "עובד עליהם": הפיד מתנהג ככזה שמאזין, מבין, ומקדים אותך צעד אחד. ובכל זאת, השפה המוצגת כלפי חוץ נשארת של "התאמה אישית", "שיפור חוויית המשתמש", "תוכן בשבילך", "פיד מותאם". ברגע שהפער הזה נעשה מודע, השאלה "איך הגיוני שאי רואה את זה" מפסיקה להיות בדיחה, והופכת לאבחנה: המכונה לא רק מגיבה לך; היא מתכננת עבורך הקשרים, רגעים, ותגובות, בזמן שאתה עדיין קורא לזה "עוד סקרול בפיד".

מה שאני מתאר זה המצב האנושי החדש ישן ברמת השטח: חיים בתוך זרם מסרים שמרגיש כמו בן‑שיח, אבל מתפקד כארכיטקט של תשומת הלב, של הפחדים ושל ההחלטות, רצונות ומחשבות. כולם עדים לזה כולם מרגישים את זה, ופשוט מקבלים את זה; היום זה כבר מובן מאליו. ההסתגלות הפסיכולוגית התנהגותית של הפרט לתוך אבולוציית הטכנולוגיה התממשה; ממומשת: היום זה נורמאלי.

מסרים מודעים: לא אם, אלא מתי

בתוך המציאות הזו, מערכת "מסרים מודעים" אינה גחמה צדדית, אלא המשך לוגי: אם כבר קיימת תשתית שמסוגלת לזהות "אירוסין באוויר", "חופשה באוויר" או "משבר באוויר" מתוך עקבות דיגיטליות, השאלה איננה אם יעשו בה שימוש בין‑אישי, אלא מי יעצב את השימוש הזה ובשם מה.

היום, אותו מודל למידה משמש בעיקר לזריקת סרטונים, תכנים ופרסומות ברגעי חולשה או תשוקה. מחר, אותו מודל יכול לשמש כתשתית לתרגום מצב רגשי למסרים בין‑אישיים: מערכת שמסוגלת לקחת את כל מה שאתה אומר "ליד" ולהביא אותו לכתובת המדויקת, בצורה מסומנת ומוסכמת.

אני מצביע כאן על כיוון כמעט בלתי נמנע: היכולת להמיר התנהגות, כוונה ומצב פנימי לניסוחים כבר קיימת. השאלה היא האם היא תישאר כלי בידיהם של הגרפים שמטרתם למקסם שימוש והכנסות, עיצוב תודעה, מניפולציה והנעה לפעולה, או שתעוצב כמערכת שמטרתה המוצהרת היא גישור, תיקוף, תרגום, במחיר של ויתור על שתיקה. "מסרים מודעים", במובן הזה היא בחירה באיזה אופן להמשיך את אותו קו: האם האלגוריתם ימשיך "לדבר אליך" בלבד, או שיהפוך גם ל"מי שמדבר בשמך", ואיך עושים זאת באופן מודע, מסומן ונתון לביקורת.

שלוש גישות דרך שלוש עדשות על אותו מצב

כדי להבין את המשמעות הרחבה של “מסרים מודעים”, יש להביט בה: במערכת מסרים מודעים: לא כרעיון טכנולוגי מבודד, אלא כנקודת מפגש בין שלוש עדשות: חברתית, מערכתית וסוציולוגית. כל אחת מהן חושפת שכבה אחרת של אותו מצב: האדם כבר אינו רק משתמש בטכנולוגיה, אלא חי בתוך מערכת שלומדת אותו, מתרגמת אותו, ולעיתים מתחילה לדבר בשמו.

הגישה הדיסטופית־חברתית רואה במציאות הדיגיטלית מרחב שבו הספונטניות, הפרטיות והחולשה האנושית הופכות לחומר גלם. הפיד, הפרסום, ההמלצות וההתראות אינם פועלים עוד כשירותים נפרדים, אלא כמנגנון אחד שמטרתו לשמר תגובה, תלות, חרדה, כעס, געגוע או תשוקה צרכנית. מנקודת מבט זו, הסכנה אינה מסתכמת באיסוף מידע; היא נמצאת ברגע שבו הפחד, הבדידות, הקנאה, הצורך באישור או הקושי לומר אמת הופכים לנתונים שניתן להפעיל עליהם השפעה. לכן גם “מסרים מודעים” עלולים להיתפס כהמשך של אותה חדירה: לא רק לדעת על מה האדם לוחץ, אלא להבין גם את מה שהוא אינו מצליח לומר. השאלה שנותרת פתוחה היא האם כלי שמציג את עצמו כתיקון יכול באמת להיחלץ ממבנה הכוח שיצר את הבעיה, או שכל כלי חדש ייבלע לבסוף באותו דפוס של פרופיליזציה וניצול רגשי.

הגישה המערכתית־תשתיתית מביטה באותו תהליך לא דרך מסך המשתמש, אלא דרך האופן שבו המערכת מארגנת את האדם מאחורי הקלעים. מבחינתה, האלגוריתם אינו רק כלי תוכנה שממליץ על תוכן, אלא שכבת תיווך שמסדרת את המציאות לפי מטרות, הסתברויות וסדרי עדיפויות. מושגים כמו Intent Graph, Behavior Graph, Sensor Fusion ושכבות חיזוי נוספות אינם חשובים כאן רק כמונחים טכניים, אלא כביטוי לשינוי עמוק יותר: האדם אינו נקלט עוד כמשתמש יחיד עם רצון ברור, אלא כמכלול של אותות, מצבים, קשרים, כוונות, תגובות והסתברויות פעולה. המערכת אינה שואלת רק “מה להציג לו”, אלא “באיזה מצב הוא נמצא”, “מה סביר שיניע אותו”, “איזה רצף ישפיע עליו”, ו“מתי נכון להפעיל את הגירוי הבא”. זהו כבר מצב נתון: האדם אינו יודע בכל רגע מאיזה כלי, חיישן, אפליקציה, צ’אט, מסמך, מיקום או דפוס שימוש נאסף האות שמייצג אותו, ואילו חלקים מחייו מקבלים משקל בתוך התמונה החישובית שנבנית עליו. מתוך מצב זה, “מסרים מודעים” אינם חריגה מן הכיוון הטכנולוגי, אלא המשך כמעט בלתי נמנע שלו: אם המערכת כבר לומדת כוונות, מצבים, דפוסי שתיקה וקושי בניסוח, השלב הבא יהיה תרגום של ההבנה הזו למסרים בין־אישיים. המורכבות אינה בעצם הופעת המערכת, אלא באופן שבו תעוצב.

גישת ההסתגלות הכפויה, “מסרים מודעים” זה שלב שרוקם עור וגידים בהתפתחות היחסים בין אדם, דאטה ובינה מלאכותית. אם מערכות כבר יודעות לזהות כוונה, מצב רגשי, דפוסי שתיקה, התלבטות וקושי בניסוח, ומזריקה לך לפיד תוכן בהתאמה פרסומות ומניפולציות פעולה מובנות, זה רק עניין של זמן עד שתופיע מערכת שתציע לתרגם את כל אלה למסרים בין־אישיים ברורים, מסומנים ומוסכמים. במובן הזה, “מסרים מודעים” אינם ניסיון לברוח מן המכונה, אלא ניסיון להגדיר מראש כיצד תיראה השכבה הבאה שלה: האם היא תשמש להעמקת השפעה סמויה, או תעוצב ככלי מודע לתיווך, הבהרה, גישור וניסוח אמת בין אנשים. הסכנה העמוקה כאן היא אלם הסתגלותי: האדם מרגיש שמשהו פועל עליו, אך חסרים לו הכלים הטכנולוגיים, הרגשיים, הבנתיים והפוליטיים להתנגד באמת. גם ככה היום הוא ממשיך להשתמש במערכת גם כאשר הוא כבר חש שהיא יודעת עליו יותר מדי.

רגולציה: טכנולוגיה כמעט תמיד מקדימה את התהליך החברתי: קודם מופיעה היכולת, אחר כך מגיע השימוש הרחב, ורק לאחר מכן החברה מתחילה להבין את המחיר, את הסיכונים ואת הצורך בגבולות. במובן הזה, כניסת הרגולציה אינה חריגה אלא שלב בלתי נמנע בניסיון לעשות סדר במרחב שכבר השתנה. היא אינה יכולה להחזיר את האנושות לעולם שלפני הפיד, לפני הגרף ולפני מודלי החיזוי, אך היא יכולה להגדיר אילו שימושים אינם לגיטימיים גם אם הם אפשריים מבחינה טכנולוגית. ללא גבולות ברורים, מידע רגשי־קוגניטיבי שמופק ממערכות כמו “מסרים מודעים” עלול לשמש לפרסום, דירוג אנשים, ניהול סיכונים, סיווג פוליטי, מיקוד מסחרי או השפעה עמוקה על החלטות והתנהגות. יחד עם זאת, רגולציה אינה צריכה להיתפס כבלם שמאט חדשנות, אלא ככלי שומר־חברה: מנגנון שמנסה להבטיח שהיכולת להבין את האדם לא תהפוך אוטומטית לכלי השפעה שלילי.

ברגע שטכנולוגיה נכנסת למאסת המונים והופכת להרגל צריכה, עבודה, תקשורת וניהול חיים, היא כבר אינה רק מוצר; היא נעשית תשתית חברתית. תשתית כזו אוגרת מאסות עצומות של נתונים על רגשות, כוונות, פחדים, הרגלים, קשרים, מצבי חולשה ודפוסי תגובה. מי ששולט בשכבת הנתונים הזו אינו מחזיק רק במידע, אלא ביכולת לזהות תנועות עומק בחברה, להקדים תפניות ציבוריות, לעצב נרטיבים, להפעיל קבוצות, להחליש התנגדויות ולנתב תודעה פוליטית, מסחרית ותרבותית. לכן תפקיד הרגולטור אינו רק להגן על “פרטיות המשתמש”, אלא לשמור על החברה מפני ריכוז כוח תודעתי בידי מערכות שאינן נבחרות, אינן שקופות, ואינן מחויבות בהכרח לאינטרס הציבורי. רגולציה ראויה צריכה להבין שהסכנה אינה רק דליפת מידע, סייבר או בינה מגנה מול בינה מתקיפה, אלא שימוש שיטתי בדאטא והזרקת הדאטא החדש לצ'אטים, כדי לבנות מציאות חברתית מתוכננת.

סיכום ותובנות

המציאות הדיגיטלית הפכה מתשתית שימוש לתנאי חיים: היא אינה רק מקיפה את האדם, אלא לומדת את קצביו, מזהה את חולשותיו, מתזמנת את חשיפותיו ומעצבת את המרחב שבו הוא חושב, מרגיש ובוחר. אנחנו מזהים זאת כאשר הפיד מקדים מחשבה, כאשר פרסומת מופיעה אחרי שיחה שלא חיפשנו, וכאשר מערכת ממליצה לנו על רגש, פתרון, שיר, אדם או פעולה לפני שהצלחנו לנסח בעצמנו מה אנחנו רוצים. הטכנולוגיה אינה רק כלי חיצוני עוד; היא נעשית סביבת חיים שמארגנת קשב, מעבדת רגשות, מתווכת יחסים ומתרגמת התנהגות אנושית למפת הסתברויות. הרגולציה נכנסת תמיד באיחור אל מרחב שכבר הפך להרגל תרבותי: היא יכולה לדרוש שקיפות, להגביל שימושים מסוכנים ולסמן קווי גבול, אך היא פועלת מול מציאות שבה ההתאמה האישית כבר אינה נתפסת כחריגה אלא כציפייה. האדם התרגל לכך שהמערכת מכירה אותו, מציעה לו, מקצרת עבורו, מנחשת אותו ומארגנת סביבו את העולם; לכן האתגר הרגולטורי אינו רק לעצור שימושים פוגעניים, אלא להתמודד עם חברה שכבר הפנימה את הנוחות, התלות והפיתוי של עולם מותאם.

מה שנראה היום כחדירה, מוזרות או אי־נוחות, עשוי להפוך בהדרגה לציפייה תרבותית. מתוך מצב זה, השאלה המרכזית כבר אינה האם מערכות ילמדו את האדם, אלא מי יעצב את השימוש בידע הזה ובשם איזו תכלית. תאגידי העל ומערכות ההשפעה מבקשים למקסם שימוש, רווח, תגובה ועיצוב תודעה; מולם נדרשת חברה שמבינה כי דאטה רגשי־קוגניטיבי אינו רק נכס מסחרי, אלא כוח חברתי. מי שמחזיק ביכולת להבין מצבי חולשה, כוונות, שתיקות, פחדים ודפוסי החלטה, מחזיק גם ביכולת להשפיע על יחסים, שיח ציבורי, התנהגות פוליטית, צריכה ותפיסת מציאות. לכן הדרישה מן הטכנולוגיה אינה יכולה להסתכם בחדשנות, יעילות או התאמה אישית; עליה לכלול דין וחשבון עמוק יותר, לא רק על מה שהיא יודעת על האדם, אלא על מה שהיא מרשה לעצמה לעשות עם הידיעה הזו.

כאן נכנס המושג “מסרים מודעים” כשלב הבא במציאות שכבר החלה להתממש. מערכות בינה מלאכותית כבר לומדות דפוסים, מזהות כוונות, מפרשות מצבי רגש, קולטות שתיקות ומתרגמות התנהגות אנושית לאותות חישוביים. הכוח הזה פועל היום דרך פידים, פרסומות, המלצות, תזמוני חשיפה וניתוב סמוי של קשב; והוא פועל גם בתוך שיחות הצ’אט הפרטיות עצמן, כאשר הבינה פונה אלינו בשפה אישית, מציעה ניסוחים, פתרונות, החלטות, רעיונות וכיווני פעולה על בסיס היסטוריית השיחות מולה, המסמכים שהעלינו, השאלות ששאלנו והידע המצטבר שהיא בונה עלינו. כאשר שכבת הצ’אט הזו מתחברת אל מידע שנאסף ממקומות אחרים: הקלקות, מיקום, זמן שימוש, רכיבי מכשיר, דפוסי גלילה, שהייה, מבט ותנועה, נוצרת תמונה רחבה יותר של האדם: לא רק מה הוא עשה, אלא מה הוא שוקל, חושש, מחפש, דוחה או מתקשה לומר.

“מסרים מודעים” מציעים להעביר את אותה יכולת מן המרחב הסמוי אל המרחב הגלוי: מתודעה מנוהלת מאחורי הקלעים אל תיווך מודע, מסומן ומוסכם של מה שהאדם כבר מבטא בעקיפין, מפזר סביבו, מתקשה לנסח או אינו מצליח למסור אל הכתובת הנכונה. במובן הזה, השאלה המרכזית עוברת מן היכולת לקרוא את האדם אל אופן השימוש בקריאה הזו: האם היא תישאר כלי של פיד מניפולטיבי ושקט ושל צ’אט שמכוון אותנו מתוך היכרות מצטברת, או תהפוך למערכת שבה האדם יודע מתי הוא מתורגם, למי המסר נמסר, מה גבולות התיווך, ומה נשאר מחוץ למודל.

האדם חי כיום בתוך מרחב שבו גם בלי למסור את עצמו במפורש, הוא מתורגם ללא הרף. הקלקות, מיקום, שהייה, חיפושים, שיחות, מבט ודפוסי גלילה הופכים לפרופיל אישיותי־אלגוריתמי, שחוזר אליו כפיד מותאם, פרסומות מדויקות, המלצות ותזמוני השפעה. הוא לא ביקש שיפרשו אותו, אך הפרשנות כבר מעצבת את סביבת התודעה שלו. משום כך, בתוך יחסי התלות ההולכים ומעמיקים בין האדם למערכת, מתחדדת חובת השמירה על זכותו לבחור מתי להימסר ומתי להישאר לעצמו: לא כל מה שהמערכת יודעת לפרש צריך להפוך למסר; יש אמת אנושית שמתקיימת דווקא משום שניתנה לה הזכות להישאר שתיקה.