Neuralink - תחילתו של העתיד

שרשור שלא נקרא #1 19/02/2023 17:57

נושא השיחה הכי "אדג'י" כיום הוא AI וכל השימושים/משמעות שלו. ולמרות שאני בהחלט מאמין שזה חלק מהעתיד של האנושות וחלק מהותי, איכשהו לא ראיתי פה שום דיון על משהו שלפי דעתי עומד לשנות את האנושות ואת גוף האדם - Neuralink. מדובר על חברה (של אלון מאסק ד"א שלעתי אחד האנשים הכי חשובים בדור שלנו, אחד מהאנשים היחידים שבאמת עוזר לקדם את האנושות) שבשנים האחרונות מנסה (ומצליחה ברמה כזו או אחרת) ליצור שבב שיושתל בסופו של היום בני אדם (כרגע מבוצעים בהצלחה לא מבוטל ניסויים בחזירים וקופים) ויתממשק עם המח על מנת לבצע מבחר רחב של פעולות שהמח מסוגל לבצע, כגון לשחזר ראייה אצל אנשים עיוורים, לשחזר יכולות שליטה מוטוריות אצל נכים ועוד.

לא צריך להיות נביא בשביל להבין שהשלב הבא הוא "העשרה" של היכולות הקיימות בגוף האדם, למשל החלפה של יד אנושית (אן כל איבר אחר למען האמת) ביד ביונית ושליטה על האיבר בעזרת הממשק בין המח לשבב הנ"ל.

בעיניי זה תחילתו של העתיד, ואני די בטוח שהדור הבא יצתקדם בצעדי ענק למה שאנחנו רואים בכל מיני סירטי סייברפאנק.

https://neuralink.com/

הנה הסבר פשוט וקל להבנה על הטכנולוגיה הנ"ל (וכן, צפיתי בו, וכן, ראיתי את הצד השלילי של הנושא - ועדיין עומד מאחורי הדברים שלי):

יהלי ב · שרשור שלא נקרא #2 19/02/2023 19:48

לא יודע עד אם זה נכון או עוד סיפורי קונספרציה, אבל בטוויטר יש המון דיווחים על מקרי מוות מחרידים ותת אנושיים בקרב קופים ששימשו לביצוע ניסויים עם הטכנולוגיה הזאת. החברה הכחישה הכל תחילה אבל בסוף הודתה על מקרה אחד בודד:

https://edition.cnn.com/2022/02/17/busi ... index.html

בכל מקרה, אני אישית לא ההיתי ממהר לאמץ דבר כזה.

gildmor · שרשור שלא נקרא #3 19/02/2023 20:04

19/02/2023 17:57
Huber כתב: נושא השיחה הכי "אדג'י" כיום הוא AI וכל השימושים/משמעות שלו. ולמרות שאני בהחלט מאמין שזה חלק מהעתיד של האנושות וחלק מהותי, איכשהו לא ראיתי פה שום דיון על משהו שלפי דעתי עומד לשנות את האנושות ואת גוף האדם - Neuralink. מדובר על חברה (של אלון מאסק ד"א שלעתי אחד
...

דווקא בהקשר של AI יש מצב שזה גם העתיד של ה-AI. הכוונה שבמקום לפתח מודלים שיודעים לזהות תמונה, או פעולות אחרות ספציפיות ש-AI יודעים לעשות כיום אפשר להתממשק למוח אמיתי של חיה ואז מבחינת היכולות תהיה קפיצה משמעותי אפילו לעומת הרובוטים הכי מתוחכמים שיש היו.
ואם יחברו למוח של מישהו שפיזית הגוף שלו מת ותרם את המוח או מישהו במצב צמח או יגדלו מוח במעבדה שיהיה גדול יותר ועם יכולת גבוה בהרבה ממוח אנושי רגיל ויחברו אותו למשאבים חישוביים ותקשורת זה כבר בינה אמיתית עם מודעות, אולי לא תנצח את אלוף העולם בשחמט אבל בהחלט מהסוג שיכול להגיע למסקנות שבני האדם מיותרים

שרשור שלא נקרא #4 20/02/2023 11:55

19/02/2023 20:04
gildmor כתב: להגיע למסקנות שבני האדם מיותרים
...

זו מסקנה די מובנת מאליה, וכן - ברגע שיהיה AI מספיק טוב אני מניח שגם הוא יגיע למסקנה הזו. לא סתם אלון מאסק טוען ש AI זו הסכנה הכי גדולה לאנושות ולדבריו חלק מהרצון לפתח את הממשק הנ"ל היא לתת לאנושות אפשרות לשרוד במקרה כזה.

dragon · שרשור שלא נקרא #5 20/02/2023 13:19

19/02/2023 17:57
Huber כתב:
לא צריך להיות נביא בשביל להבין שהשלב הבא הוא "העשרה" של היכולות הקיימות בגוף האדם, למשל החלפה של יד אנושית (אן כל איבר אחר למען האמת) ביד ביונית ושליטה על האיבר בעזרת הממשק בין המח לשבב הנ"ל.

...

ע"ע סטיב אוסטין

19/02/2023 20:04
gildmor כתב: שיכול להגיע למסקנות שבני האדם מיותרים
...

ע"ע 2001 אודיסאה בחלל

שרשור שלא נקרא #6 20/02/2023 14:12

dragon - זה ידוע שסופרי מדע בדיוני חזו לא פעם את העתיד בצורה די מדוייקת (כגון Arthur C. Clarke שחזה את ה PGS והלווין וכו).

gildmor · שרשור שלא נקרא #7 20/02/2023 15:05

20/02/2023 13:19
dragon כתב: ע"ע סטיב אוסטין

ע"ע 2001 אודיסאה בחלל
...

יש כל כך הרבה סיפורי מד"ב ואחרים שלא משנה מה יקרה בעתיד סביר להניח שנמצא מישהו שכתב על משהו דומה.
מצד אחד סיפורים משמשים לפעמים גם כהשראה לממציאים\יזמים ומצד שני ניתן להתיחס לחלק מהם גם כאזהרה למה שעלול לקרות ואז אם באמת מצליחים למנוע תרחיש כזה יצא שהסופר טעה, פרדוקס שכזה.

אם אקח לדוגמה את נושא הרובוטים של אסימוב, מצד אחד המציא כללים שלכאורה נאכפים ביעילות שזה פלא לא מוסבר בפני עצמו אבל מצד שני מתאר הרבה סיטואציות חריגות בהן גם זה לא עוזר. מה שאפשר ללמוד מזה הוא שלא משנה איזה כללים יהיו וכמה יעיל ניישם אותם, בהינתן מספיק ישויות כאלה שהן מספיק חכמות הם ימצאו את הדרך לעקוף אותם, בדיוק כמו שבני אדם היו עושים במקומם במוקדם או במאוחר.

dragon · שרשור שלא נקרא #8 20/02/2023 16:18

20/02/2023 14:12
Huber כתב: dragon - זה ידוע שסופרי מדע בדיוני חזו לא פעם את העתיד בצורה די מדוייקת (כגון Arthur C. Clarke שחזה את ה PGS והלווין וכו).
...

ברור שזה ידוע. המדע הבדיוני של אתמול הוא המציאות של מחר, או אפילו של היום - במקרים רבים (מדי?)
הבאתי את האסוציאציות הראשונות שעלו בי למקרא הדברים.
גם 2001 זה ארתור סי. קלארק.

dragon · שרשור שלא נקרא #9 20/02/2023 16:29

20/02/2023 15:05
gildmor כתב: ניתן להתיחס לחלק מהם גם כאזהרה למה שעלול לקרות ואז אם באמת מצליחים למנוע תרחיש כזה יצא שהסופר טעה, פרדוקס שכזה.
...

הרבה פעמים כדאי לראות בהם אזהרה, אבל אין כל סיכוי למנוע את התרחישים שהם מתארים. אפשר לכל היותר לעכב אותם.

20/02/2023 15:05
gildmor כתב: בהינתן מספיק ישויות כאלה שהן מספיק חכמות הם ימצאו את הדרך לעקוף אותם, בדיוק כמו שבני אדם היו עושים במקומם במוקדם או במאוחר.
...

נכון. וזו אחת הסיבות שבסופו של דבר אי אפשר למנוע, גם את התרחישים המפחידים / המטרידים וכו'.
תראו, אני טוען כבר הרבה שנים שבסופו של דבר המחשבים (תקראו לזה AI אם תרצו, ברוח ימים אלה) יתקוממו נגד בני האדם. זו לא שאלה של אם, אלא מתי, איפה, כיצד וכו'. מי שלא רואה את זה פשוט מתכחש למציאות. זה כתוב על כל הקירות.

gildmor · שרשור שלא נקרא #10 20/02/2023 18:07

20/02/2023 16:29
dragon כתב: נכון. וזו אחת הסיבות שבסופו של דבר אי אפשר למנוע, גם את התרחישים המפחידים / המטרידים וכו'.
תראו, אני טוען כבר הרבה שנים שבסופו של דבר המחשבים (תקראו לזה AI אם תרצו, ברוח ימים אלה) יתקוממו נגד בני האדם. זו לא שאלה של אם, אלא מתי, איפה, כיצד וכו'. מי שלא רואה את זה פשוט מתכחש למציאות. זה כתוב על כל הקירות.
...

מה שמוגדר כיום כ-AI זה עדיין בגדר "כלי עזר" ללא יכולת מחשבה עצמאית.
אנחנו עדיין רחוקים מאוד ממחשב שמסוגל באמת לחשוב עצמאית. מקווה שמי שעוסק בתחום נוקט את כל הזהירות הנדרשת שמשהו נסיוני שכזה כזה אף פעם לא יהיה מחובר לאמצעי תקשרות דיגיטלי כלשהו ושעד אז אמצעי ההגנה והתאוששות בתחום הסייבר ישתפרו משמעותית. וימנעו את התרחישים הדמיוניים שבהם גורם כלשהו יכול להשתלט על מערכות נשק ותשתיות חיוניות בטווח זמנים קצר.

תרחיש כמו בטרמינטור הוא קצת מוגזם כי אני מניח שהצבא מספיק זהירים ונמנעים מלחבר מערכות שיגור טילים לרשת ודורשים נוכחות אדם עם התקן פיזי לצורך הפעלה.
מצד שני חברות עסקיות (בהובלת טסלה) כן מספיק מטומטמות לחבר מכוניות חשמליות שמסוגלות לתנועה אוטונומית חלקית\מלאה לרשת וכשיהיו יותר הרבה כאלה אז צריך להתחיל לדאוג...ולאו דווקא ממחשב עויין.
כל גורם עויין שיצליח להשתלט על מליוני מכוניות שכולם עם אותה גרסה שיש בה פרצה כלשהי בשילוב עם שיבוש תשתיות אחרות יכול לגרום לקטסטרופה. מכונית שנוסעת במהירות 150 קמ"ש פלוס יכולה להיות נשק לא פחות קטלני מטיל קטן אם מכוונים אותה על מבנים
אנשים או מכוניות אחרות וגורמים למליוני תאונות שרשרת.

אני מניח שחלקנו לפחות שמעו על הבאג ב-LOGFORJ שהתקיים כמה שנים ללא שהתגלה והשפיע על מליוני מחשבים וחשף אותם להשתלטות. תוקפים מתוחכמים לא חייבים לחכות שתמצא פרצה כזו במקרה. עם מספיק תקציב אפשר להחדיר עובדים פיקטיביים למרכזי הפיתוח של התוכנה הרלוונטית ולהשתיל בה פרצה\דלת אחורית מכוונת.

borsood · שרשור שלא נקרא #11 20/02/2023 19:20

אם מדברים על הטרמינטור, כבר יש אב טיפוס ל T-1000
https://www.bbc.com/news/av/world-us-canada-64668021

mordsxx · שרשור שלא נקרא #12 21/02/2023 19:19

לאמיתו של דבר ישנו שבב המושתל קרוב למוח במספר בתי חולים בארץ בהליך כירוגי רגיל. קוראים לו שתל שבלולי העוזר לילדים אשר נולדו חרשים או למבוגרים שאיבדו את שמיעתם לשמוע. אלו ששמעו בעבר ועברו את ההשתלה מנהלים איתו (השתל) יחסי אהבה-שנאה, מצד אחד השתל מאפשר להם לשמוע ומצד שני הקליטה רחוקה מאד משמיעה טבעית. מבחינה מתמטית-ביולוגית אין אפשרות לשחזר ראייה/שמיעה או חוש אחר איתו נולדנו. AI יכול להגיע למשהו קרוב אבל זהו הבדל הדומה להבדל בין קאיה פיקנטו לפרארי SF90

שרשור שלא נקרא #13 22/02/2023 9:40

mordsxx - בתור עיוור/חירש, מה היית מעדיף, לא לשמוע/לראות בכלל או לשמוע/לראות חלקית?

mordsxx · שרשור שלא נקרא #14 22/02/2023 20:39

פרופ׳ קרוננברג אשר עבד בתור משתיל בביה״ח שיבא סיפר כי מבין המבוגרים המעומדים להשתלה האחוזים הם 50-50.
מדובר כאן בתהליך בלתי רוורסאלי בו האוזן מתה סופית והשתל תופס את מקומה לטוב ולרע.