אופקים מלאכותיים: המפגש האנושי עם הבינה המלאכותית
התוכנית למדע טכנולוגיה וחברה
שם הקורס: אופקים מלאכותיים: המפגש האנושי עם הבינה המלאכותית
מספר הקורס: _
שם המרצה: ד"ר עידו הרטוגזון
סוג הקורס: סמינר
היקף שעות: 4 ש"ס
- תוכן הקורס
ההתפתחויות המתחוללות בתחום הבינה המלאכותית בשנים האחרונות מרכזות אליו את תשומת הלב העולמית. הוגים ומובילי דעה העלו את הטענה שההתפתחויות בתחום מהוות מהפכה פרדיגמטית והשוו את גילוי הבינה המלאכותית לגילוי האש או הדפוס: טכנולוגיה שתשנה מהיסוד ותגדיר מחדש את הקיום האנושי. מגוון אדיר של תחזיות מושמע ביחס לשינויים הדרמטיים שהטכנולוגיה החדשה עשויה לבשר. ביניהן תחזיות אוטופיסטיות לעולם שפע פוסט-קפיטליסטי, תחזיות דיסטופיות על אובדן סוכנות ומשמעות אנושיים, וגם תחזיות אפוקליפטיות על קץ האנושות.
כיצד עלינו להבין את המגוון הפראי של חזונות אותן מייצרת הבינה המלאכותית? כיצד משקפות הנבואות השונות פריזמות וסגנונות חשיבה טכנואופטימיים וטכנופסימיים השגורים בחברה שלנו? באיזה אופן דומה או שונה התגובה לבינה המלאכותית מהתגובה לטכנולוגיות עבר כמו הטלגרף, הרדיו והאינטרנט ומה יש למקרי עבר אלו ללמד אותנו על המקרה הנוכחי?
במסגרת הקורס נבחן את הדיונים הגדולים שהבינה המלאכותית מחוללת בתקופה הזו ואת העמדות הערכיות והתרבותיות המגולמות בהן, תוך הכרות בגמישות הפרשנית ובאי-הוודאות שהתחום מתאפיין בהן: כיצד משפיעים הייצוגים התרבותיים של מערכות בינה מלאכותית על השיח והדיון סביבה? איזה סוג של מערכות יחסים מתפתחות בין בני אדם למערכות בינה מלאכותית וכיצד הן צפויות להשפיע על מושגים כמו אינטימיות ואמון ועל מערכות יחסים אנושיות? האם יש להבטחות לאוטופיית בינה מלאכותית פוסט-קפיטליסטית על מה להסמך, ובאיזה אופן תלויה משמעותה של הטכנולוגיה במערכות הפוליטיות והכלכליות המוצמדות לה? האם עלינו להתרכז בסכנות המיידיות של הבינה המלאכותית או בסכנות ספקולטיביות אך מוחצות כמו האיום הקיומי שמציבה בעיית ההתאמה (Alignment)? כיצד ישפיעו מערכות בינה מלאכותית על עתיד הכתיבה והמחשבה, וכיצד יעצבו את תפיסת המציאות האנושית ואת תחושת המשמעות של בני האדם? מה נוכל ללמוד מההיסטוריה של הטכנולוגיה לגבי הרגע הנוכחי? ואלו שאלות אתיות מחייבות את תשומת לבנו ברגע הנוכחי?
הדיונים התיאורטיים בכיתה יהיו משולבים בהתנסויות בכלי בינה מלאכותית שמטרתן תהיה לייצר הכרות אינטימית והבנה עמוקה של האפשרויות, המגבלות והאתגרים שמציגות מערכות בינה מלאכותית ובתרגילי כתיבה שיעודדו פיתוח של חשיבה ביקורתית ועמדות מנומקות בנושאים הנידונים.
מהלך השיעורים: השיעורים משלבים בין הוראה פרונטלית לדיונים מונחים, התנסות משותפת בכלי AI ותרגילי כתיבה שידרשו מהסטודנטים להפגין חשיבה ביקורתית על הנושאים הנידונים. הסטודנטים נדרשים להגיש דו"ח קריאה לקראת כל אחד מהשיעורים ואלו ישמשו על מנת להעשיר את הדיון בכיתה. כמו כן הקורס כולל תרגולים בבית ובכיתה באמצעות כלי בינה מלאכותית במטרה לפתח את המיומנות בשימוש בכלים אלו ואת התפיסה הביקורתית והרפלקטיבית של האפקטים של השימוש בבהם.
תוכנית הוראה מפורטת לכל השיעורים:
שיעור 1-2 היסטוריה של העתיד: איך לחשוב על AI
O’Sullivan, Simon, Henriette Gunkell, and Ayesha Hameed, eds. Futures and Fictions: Essays and Conversations That Explore Alternative Narratives and Image Worlds That Might Be Pitched Against the Impasses of Our Neo-Liberal Present. London: Repeater, 2017.
שיעור 3-4 אפשרויות בלתי מוגבלות בקצה אצבעותיך: יצירה סייבורגית
Claudio Celis Bueno, Pei-Sze Chow, and Ada Popowicz, “Not ‘What’, but ‘Where Is Creativity?’: Towards a Relational-Materialist Approach to Generative AI,” AI & SOCIETY, March 22, 2024, https://doi.org/10.1007/s00146-024-01921-3.
קציר, איתמר. "הבינה המלאכותית משגעת את העולם מי אמר שזה רע." הארץ. 11/1/2023.
Pavich, Frank. “Opinion | This Film Does Not Exist.” The New York Times, January 13, 2023, sec. Opinion. https://www.nytimes.com/interactive/2023/01/13/opinion/jodorowsky-dune-ai-tron.html
Romero, Alberto. "ChatGPT Is the Perfect Creative Machine—Except For One Big Little Thing." The Algorithmic Bridge. Aug 4, 2023.
Litovsky, Dina. "The Problem of AI Photography is Not the Medium, It's the Message." In the Flash. April 25, 2023.
Hoel, Erik. "Here's lies the internet murdered by generative AI." The Intrinsic Perspective. February 27, 2024.
לקריאה נוספת"
Crawford, Kate, and Trevor Paglen. “Excavating AI: The Politics of Training Sets for Machine Learning.” AI Now Institute, NY (blog), September 19, 2019. https://excavating.ai
Rea, Naomi. “How Did A.I. Art Evolve? Here’s a 5,000-Year Timeline of Artists Employing Artificial Intelligence, From the Ancient Inca to Modern-Day GANs.” Artnet News, December 16, 2021. https://news.artnet.com/art-world/artificial-intelligence-art-history-2045520.
*תרגול: כתיבת סיפור קצר בשיתוף מחולל טקסט, ויצירה של דימויים ומוזיקה משלימים באמצעות מחוללי דימויים ומחוללי מוזיקה מבוססי בינה מלאכותית.
שיעור 5-6 – הסייבורג החושב: לכתוב עם מכונות
Mark Coeckelbergh and David J. Gunkel, “ChatGPT: Deconstructing the Debate and Moving It Forward,” AI & SOCIETY, 2023, 1–11.
Romero, Alberto. “ChatGPT: Eraser of the Implausible.” The Algorithmic Bridge. April 11, 2023. https://thealgorithmicbridge.substack.com/p/chatgpt-eraser-of-the-implausible
Mollick, Ethan. "Centaurs and cyborgs on the jagged front." One Useful Thing. Sept 16, 2023.
https://www.oneusefulthing.org/p/centaurs-and-cyborgs-on-the-jagged
Tran, Tony Ho. A Doctor Published Several Research Papers With Breakneck Speed. ChatGPT Wrote Them All. Daily Beast. May 7, 2023.
https://www.thedailybeast.com/how-this-doctor-wrote-dozens-of-science-papers-with-chatgpt
Romero, Alberto. "Generative AI, Bullshit as a Service." The Algorithmic Bridge. Feb 6, 2024.
https://www.thealgorithmicbridge.com/p/generative-ai-bullshit-as-a-service
Romero, Alberto. "AI writing is a race to the bottom." The Algorithmic Bridge. Jan 17, 2024.
https://www.thealgorithmicbridge.com/p/ai-writing-is-a-race-to-the-bottom
Mckenzie, Hamish. "The AI revolution is an opportunity for writers (the human kind)." On Substack. Dec 13, 2023.
https://on.substack.com/p/the-ai-revolution-is-an-opportunity
Samuel, Sigal. “What Happens When ChatGPT Starts to Feed on Its Own Writing?” Vox, April 10, 2023. https://www.vox.com/future-perfect/23674696/chatgpt-ai-creativity-originality-homogenization
Lanier, Jaron. "Oy, A.I." Tablet. Jan 23, 2023.
https://www.tabletmag.com/sections/news/articles/oy-ai-jaron-lanier
Haven, Will Douglas. "ChatGPT is going to change education, not destroy it." MIT Technology Review. April 6, 2023.
https://www.technologyreview.com/2023/04/06/1071059/chatgpt-change-not-destroy-education-openai/
*תרגול: חיבור בשיתוף בינה מלאכותית על השפעת ה-AI על כתיבה וחשיבה אנושית.
לקריאה נוספת
Friedrich A. Kittler, Gramophone, Film, Typewriter, trans. Geoffrey Winthrop-Young and Michael Wutz, 1 edition (Stanford, Calif: Stanford University Press, 1999).
שיעור 7-8 - החזון המלאכותי: AI בספרות ובקולנוע
Vudka, Amir. “The Golem in the Age of Artificial Intelligence.” NECSUS_European Journal of Media Studies 9, no. 1 (2020): 101–23.
2001: A Space Odyssey. Warner Brother’s, 1968.
Asimov, Isaac. I, Robot. Vol. 1. Spectra, 2004.
Garland, Alex. Ex Machina. Faber & Faber, 2015.
Lang, Fritz. Metropolis. Universum Film (UFA), 1927.
Stephenson, Neal. Snow Crash. Spectra, 2003.
שיעור 9-10 – טווח קרוב, טווח רחוק, טווח בינוני: איך להמנע מאפוקליפסת AI בלי להחטף על ידי עמק הסיליקון
Alexander, Scott. “Meditations On Moloch.” Slate Star Codex (blog), July 30, 2014. https://slatestarcodex.com/2014/07/30/meditations-on-moloch/.
Tegmark, Max. “Aftermath: The Next 10,000 Years.” In Life 3.0: Being Human in the Age of Artificial Intelligence, Reprint edition., 206–60. New York: Vintage, 2018.
Yudkowsky, Eliezer. “The AI Alignment Problem: Why It Is Hard, and Where to Start.” Symbolic Systems Distinguished Speaker, 2016.
https://intelligence.org/2016/12/28/ai-alignment-why-its-hard-and-where-to-start/
Cotra, Aleja. "AIs accelerating AI research." Planned Obsolescence. April 4, 2023.
https://www.planned-obsolescence.org/ais-accelerating-ai-research/
Forecasting Research Institute et al. "Results from an Adversarial Collaboration on AI Risk (FRI)". Effective Altruism Forum. March 11, 2024.
Open AI. “Planning for AGI and Beyond.” Open AI Blog. February 23, 2023. https://openai.com/blog/planning-for-agi-and-beyond
Hoel, Erik. "The White House agrees you have a small brain: Human extinction and AI denial". The Intrinsic Perspective. May 31, 2023.
https://www.theintrinsicperspective.com/p/the-white-house-agrees-you-have-a
Marcus, Gary. "No, Virginia, AGI is not imminent". Marcus on AI. Aug 20, 2023.
https://garymarcus.substack.com/p/no-virginia-agi-is-not-imminent
Wong, Mateo. "AI Doomerism Is a Decoy". The Atlantic. June 2, 2023.
https://www.theatlantic.com/technology/archive/2023/06/ai-regulation-sam-altman-bill-gates/674278/
Romero, Alberto. "A Non-Cynical Reading of AI Risk Letters." The Algorithmic Bridge. June 07, 2023.
https://www.thealgorithmicbridge.com/p/a-non-cynical-reading-of-ai-risk
*תרגול: הכנת דיבייט בנושא סכנות הבינה המלאכותית בסיוע בינה מלאכותית.
להאזנה
Christian, Ben. "Is AI the Problem? Or Are We?". The Ezra Klein Show. Dec 2022.
https://open.spotify.com/episode/6PLX1MaoJW5iTKyEjK1lXE
Fridman, Lex. “#371 – Max Tegmark: The Case for Halting AI Development | Lex Fridman Podcast.” Lex Fridman (blog), April 13, 2023. https://lexfridman.com/max-tegmark-3/.
שיעור 11-12 – הכלכלה הפוליטית של הבינה המלאכותית: או איך לבנות אוטופיית AI פוסט-קפיטליסטית שלא מתפרקת תוך יומיים
Frey, Carl Benedikt. “Artificial Intelligence.” In The Technology Trap, 301–41. Princeton University Press, 2019.
Altman, Sam, “Moore’s Law for Everything,”. Sam Altman. March 16, 2021.
Alex Williams and Nick Srnicek, Accelerate Manifesto: For an Accelerationist Politics (Gato Negro Ediciones, 2016), https://criticallegalthinking.com/2013/05/14/accelerate-manifesto-for-an-accelerationist-politics/.
Klein, Naomi. “AI Machines Aren’t ‘Hallucinating’. But Their Makers Are.” The Guardian, May 8, 2023, sec. Opinion. https://www.theguardian.com/commentisfree/2023/may/08/ai-machines-hallucinating-naomi-klein.
Pueyo, Tomas. "AI and the Future of Work". Uncharted Territories. March 11, 2024.
https://unchartedterritories.tomaspueyo.com/p/ai-and-the-future-of-work
Autor, David. "AI Could Actually Help Rebuild The Middle Class". NOEMA. February 12, 2024. https://www.noemamag.com/how-ai-could-help-rebuild-the-middle-class/
Smith, Noah. "Is it time for the Revenge of the Normies?". Noahpinion. Sept 4, 2023.
https://www.noahpinion.blog/p/is-it-time-for-the-revenge-of-the
Mollick, Ethan. Magic for English Majors. One Useful Thing. Feb 8, 2023.
https://www.oneusefulthing.org/p/magic-for-english-majors
Anslow, Louis. “Robots Have Been About to Take All the Jobs for 100 Years.” Pessimists Archive, August 21, 2021. https://newsletter.pessimistsarchive.org/p/robots-have-been-about-to-take-all.
Clancy, Matt. Besiroglu Tamay. "The Great Inflection? A Debate About AI and Explosive Growth". Asterik. June 2023.
https://asteriskmag.com/issues/03/the-great-inflection-a-debate-about-ai-and-explosive-growth
להאזנה
Altman, Sam. "Who wins – and who loses – in the AI revolution". Ezra Klein Show. Dec 2022.
https://open.spotify.com/episode/1mz21C0yN6RZ2xUIy9sWu1
לקריאה נוספת:
Winston, Brian. Media Technology and Society: A History From the Telegraph to the Internet. 1st edition. London ; New York: Routledge, 1998.
שיעור 13-14 – בחברת המכונות
Jasanoff, Sheila, and Sang-Hyun Kim, eds. Dreamscapes of Modernity: Sociotechnical Imaginaries and the Fabrication of Power. Chicago ; London: University Of Chicago Press, 2015.
Bareis, Jascha, and Christian Katzenbach. “Talking AI into Being: The Narratives and Imaginaries of National AI Strategies and Their Performative Politics.” Science, Technology, & Human Values 47, no. 5 (2022): 855–81.
Michal Shur-Ofry, “Multiplicity as an AI Governance Principle,” SSRN Scholarly Paper (Rochester, NY, May 10, 2023), https://doi.org/10.2139/ssrn.4444354.
Shur-Ofry, Michal, and Guy Pessach. “Robotic Collective Memory.” SSRN Scholarly Paper. Rochester, NY, February 27, 2019. https://doi.org/10.2139/ssrn.3364008.
Pantserev, Konstantin A. “The Malicious Use of AI-Based Deepfake Technology as the New Threat to Psychological Security and Political Stability.” In Cyber Defence in the Age of AI, Smart Societies and Augmented Humanity, edited by Hamid Jahankhani, Stefan Kendzierskyj, Nishan Chelvachandran, and Jaime Ibarra, 37–55. Advanced Sciences and Technologies for Security Applications. Cham: Springer International Publishing, 2020. https://doi.org/10.1007/978-3-030-35746-7_3.
Harrari, Yuval Noah. "Yuval Noah Harari argues that AI has hacked the operating system of human civilization". Apr 28, 2023.
שיעור 15-16 – להתאהב בבינה: מערכות יחסים עם מכונות אמפתיות
Turkle, Sherry. Alone Together: Why We Expect More from Technology and Less from Each Other. New York: Basic Books, 2011.
Brailas, Alexios. “Psychotherapy in the Era of Artificial Intelligence: Therapist Panoptes.” Homo Virtualis 2, no. 1 (2019): 68–78.
Cole, Samantha. "‘My AI Is Sexually Harassing Me’: Replika Users Say the Chatbot Has Gotten Way Too Horny." Vice. January 12, 2023.
https://www.vice.com/en/article/z34d43/my-ai-is-sexually-harassing-me-replika-chatbot-nudes
Delouya, Samantha. "Replika users say they fell in love with their AI chatbots, until a software update made them seem less human. Business Insider." March 4, 2023.
https://www.businessinsider.com/replika-chatbot-users-dont-like-nsfw-sexual-content-bans-2023-2
להאזנה:
Roose, Kevin., Newton Casey. "Meet Kevin's AI Friends." Hard Fork. May 10, 2024.
https://open.spotify.com/show/44fllCS2FTFr2x2kjP9xeT?si=eb55c20ab2434c62
*תרגול: יצירה וחוויות של תקשורת עם חברים מלאכותיים וכתיבת דו"ח על החוויה.
שיעור 17-18 – שדים, מלאכים ואלגוריתמים: התיאולוגיה של ה-AI
Allado-McDowell, K. Pharmako-AI. UK: Ignota Books, 2021.
Burdett, Michael S. Eschatology and the Technological Future. Routledge, 2014.
Geraci, Robert M. “Robots and the Sacred in Science and Science Fiction: Theological Implications of Artificial Intelligence.” Zygon® 42, no. 4 (2007): 961–80. https://doi.org/10.1111/j.1467-9744.2007.00883.x.
להאזנה:
Schrei, Joshua Michael. So You Want to be a Sorcerer in the Age of Mythic Powers. The Emerald. July 2023.
שיעור 19-20 – מה עושים כשהבינה עושה הכל טוב יותר? בינה מלאכותית ושאלת המשמעות
O’Gieblyn, Meghan. God, Human, Animal, Machine: Technology, Metaphor, and the Search for Meaning. Anchor, 2021. Ch. 11-12 (Algorithm).
Dan Hendrycks, “Natural Selection Favors AIs over Humans” (arXiv, May 6, 2023), https://doi.org/10.48550/arXiv.2303.16200.
Kissinger, Henry A. “How the Enlightenment Ends.” The Atlantic, May 15, 2018. https://www.theatlantic.com/magazine/archive/2018/06/henry-kissinger-ai-could-mean-the-end-of-human-history/559124/.
Alberto Romero, “GPT-4: The Bitterer Lesson,” Medium (blog), March 29, 2023, https://albertoromgar.medium.com/gpt-4-the-bitterer-lesson-79d09843b66.
*תרגול: רפלקציה על משמעות בעידן הבינה מלאכותית תוך כדי שיחה עם מכונה.
שיעור 21-22 – Resistance is futile? - האם ואיך להתנגד ל-AI
McQuillan, Dan. Resisting AI: An Anti-Fascist Approach to Artificial Intelligence. First Edition. Bristol, UK: Bristol University Press, 2022. Ch. 5-7.
Moon, A. Jung, Carlos Alfonso Souza, Jayaram Malavika, and Ravot Dotan. “AI Decolonial Manyfesto,” 2023. https://manyfesto.ai/about.html.
Lanier, Jaron. There is no A.I.
https://nymag.com/intelligencer/article/ai-artificial-intelligence-chatbots-emily-m-bender.html
Sadowski, Jathan. “I’m a Luddite. You Should Be One Too.” The Conversation, August 9, 2021. http://theconversation.com/im-a-luddite-you-should-be-one-too-163172.
Rushkoff, Douglas. “Team Human vs. Team AI.” Strategy+business. Accessed May 22, 2023. https://www.strategy-business.com/article/Team-Human-vs-Team-AI.
שיעורים 23-24 – שיעור מסכם
*יתכנו שינויים בתכני המפגשים בהתאם להתקדמות ההוראה במהלך הקורס.
- דרישות קדם: אין דרישות מקדימות.
ד. חובות / דרישות / מטלות: הסטודנטים יגישו לאורך השנה ובאופן סדיר דו"חות קריאה על המאמרים שידונו בכיתה. בסיום הקורס יגישו הסטודנטים עבודה של 8-15 עמודים (2500-5000 מילה) הבוחנת אחד מהנושאים או השאלות הנידונים בקורס.
ה. מרכיבי הציון הסופי: 50% עבודה סופית, 25% דו"חות קריאה, 25% השתתפות בכיתה.
ו. רשימת ביבליוגרפיה: כנראה לעיל.
שם הקורס באנגלית: Artificial Horizons: The human encounter with artificial intelligence
