Jalanan yang diguyur hujan saat senja, tergambar melalui jendela sebuah kedai kopi. Lampu senar digantung di antara bangunan bata tua, dan menara gereja di kejauhan. Di latar depan, meja yang diterangi cahaya lilin dengan cangkir kopi, teh, dan… kendi kaca berisi cairan krem? Di samping sebongkah adonan penghuni pertama yang mengambang? Dan mejanya juga terendam air?
Ini adalah cita-cita platonis dari “musim gugur”, menurut salah satu foto yang menjadi viral di X, yang telah dilihat hampir 12 juta kali, dan Pinterest, yang merupakan gambar pertama yang muncul saat Anda menelusuri “inspirasi musim gugur”. Pada pandangan pertama, Anda akan dimaafkan jika mengira itu adalah jalan kecil di Edinburgh atau bagian dari Boston yang terlihat seperti Gadis Gilmore. Namun seperti banyak foto musim gugur yang viral tahun ini, gambar tersebut, dengan detail yang tidak masuk akal dan aura yang luar biasa, tampaknya dihasilkan oleh AI.
Citra AI “getaran musim gugur” merupakan banyak sekali foto musim gugur paling populer di Pinterest saat ini, mulai dari tampilan buku di luar ruangan yang murung di jalan yang diguyur hujan, pasar petani yang diterangi matahari, hingga beberapa cangkir kopi yang bertengger di atas seprai yang kusut. Semuanya tampak biasa saja sampai Anda memperbesar dan menyadari bahwa buku tersebut tidak berisi huruf sebenarnya dan bantal sebenarnya terbuat dari bahan keset kamar mandi.
Hal ini tidak hanya terbatas pada Pinterest atau “vibes”: konten yang dihasilkan AI kini menyusup ke media sosial dengan cara yang memiliki dampak berarti terhadap kehidupan masyarakat. Perajut dan perajut yang berharap bisa membuat sweter musim gugur dibanjiri dengan pola AI yang tidak masuk akal dan gambar inspirasi di Reddit. Sebuah restoran yang sepenuhnya palsu telah memperoleh 75.000 pengikut di Instagram dengan mengklaim sebagai “nomor satu di Austin” dan memposting makanan musiman yang berlebihan seperti croissant yang berbentuk seperti Moo Deng. Sementara itu, orang-orang yang berharap untuk menikmati novel fantasi yang nyaman atau cerita pengantar tidur untuk anak-anak mereka dihadapkan pada perpustakaan omong kosong yang dibuat oleh GPT Obrolan yang “ditulis” oleh penulis yang tidak ada di toko buku Kindle, sementara algoritme YouTube mereka melayani mereka yang dibuat oleh bot. video suasana musim gugur. Tampaknya musim gugur sedang dimakan oleh AI.
Tidak semua orang – dan mohon maaf atas permainan kata-kata berikut ini – menyukainya. Ketika foto kafe palsu menjadi viral di X, hal ini menyebabkan banjir kutipan-tweet yang menanyakan mengapa ada orang yang perlu menggunakan AI padahal Anda dapat dengan mudah memposting salah satu dari banyak foto aktual yang diambil di kota-kota nyata yang, pada kenyataannya, terlihat seperti ini.
Inti permasalahannya saat ini adalah besarnya skala permasalahan yang ada: Para penipu dan spammer dapat mengirimkan teks dan gambar dalam jumlah banyak hanya dengan mengklik sebuah tombol.
Dalam bahasa sehari-hari, semua sampah ini secara luas dianggap “kotoran,” sebuah istilah untuk gambar, teks, dan video berisi spam yang dihasilkan oleh AI yang menyumbat platform internet dan menjadikannya lebih sulit dan tidak menyenangkan untuk online. Kenyataannya, momen puncak kemerosotan ini adalah puncak alami dari platform yang memberikan insentif terhadap viralitas dan keterlibatan dengan cara apa pun — tidak peduli seberapa rendah kualitas kontennya. Namun inti permasalahannya saat ini adalah besarnya skala permasalahan yang ada: Para penipu dan spammer dapat melancarkan rentetan teks dan gambar hanya dengan mengklik sebuah tombol, sehingga pencarian informasi yang sah atau penelusuran biasa di media sosial memerlukan lebih banyak waktu dan upaya untuk menghindari sampah. Misinformasi tentang peristiwa penting dan liputan pemilu menyebar di berbagai platform. Publikasi akademis dan sastra diserbu spam dengan kiriman berkualitas rendah, sehingga lebih sulit untuk menyaring karya kreatif atau ilmiah asli.
Tentu saja, ada kekhawatiran yang lebih mendesak mengenai munculnya AI generatif: misalnya konsumsi energi yang sangat besar, atau maraknya pembuatan pornografi palsu yang digunakan untuk melecehkan dan menganiaya perempuan. Mengingat semua itu, mudah untuk melihat gambar musim gugur lucu yang dihasilkan AI di Pinterest sebagai sesuatu yang relatif bukan masalah, sebuah efek samping dari teknologi yang (bisa dibilang) bisa sangat bermanfaat bagi umat manusia.
Namun seperti yang dijelaskan oleh Jason Koebler, salah satu pendiri 404 Media, sebuah publikasi yang meliput teknologi, gambar-gambar ini menormalkan kesalahan AI dan menurunkan kepekaan terhadap kemampuan kita untuk membedakan mana yang asli dan mana yang palsu. “Penyumbatan feed dan hasil pencarian bukan sekedar efek samping, tapi efek utama dari semua ini,” katanya kepada saya. “Lebih sulit bagi seorang jurnalis yang menulis artikel untuk melakukan terobosan, atau seorang seniman yang melukis sebuah gambar, atau seorang musisi yang membuat sebuah lagu ketika mereka bersaing bukan hanya dengan sekelompok manusia yang membuat sesuatu, namun juga manusia yang menggunakan kreasi otomatis ini. mesin untuk membuat sesuatu pada skala yang tidak mungkin dilakukan sebaliknya.” Masalahnya sangat buruk sehingga alat yang digunakan untuk melacak penggunaan kata-kata tertentu oleh manusia secara online tidak lagi efektif karena maraknya model bahasa besar.
Kecerobohan AI biasanya datang dari orang-orang yang mencoba menghasilkan uang dengan menjadi viral di media sosial. Platform seperti Facebook, Instagram, X, dan TikTok semuanya memiliki program yang membayar pembuat konten secara langsung berdasarkan seberapa banyak keterlibatan yang diterima konten mereka, dan AI semakin mempermudah produksi dan pengujian konten tersebut. Hal ini menyebabkan banyak orang di seluruh dunia yang mengajar kursus berbayar tentang cara menghasilkan air kotor AI yang sangat menarik, berbagi informasi tentang petunjuk terbaik untuk menghasilkan postingan yang paling menarik perhatian.
Di Facebook, poster AI mengatakan bahwa mereka menghasilkan sekitar $100 per 1.000 suka, dan beberapa pengguna TikTok menghasilkan $5.000 per bulan dari pekerjaan sampingan mereka. Ini merupakan jumlah yang layak bagi siapa pun, tetapi sangat menguntungkan di negara-negara yang menjadi basis banyak penipu konten AI, seperti India, Vietnam, dan Filipina. Salah satu pembuat konten yang berbasis di Kenya mengatakan kepada majalah New York bahwa prosesnya melibatkan menanyakan sesuatu seperti kepada ChatGPT, “TULIS AKU 10 GAMBAR CEPAT YESUS YANG AKAN MEMBAWA KETERLIBATAN TINGGI DI FACEBOOK” dan kemudian memasukkan perintah tersebut ke generator gambar seperti Leonardo.ai dan Midjourney.
Daripada khawatir platform mereka akan dibanjiri dengan umpan keterlibatan berkualitas rendah, Meta dan X tampaknya sama sekali tidak peduli dan bahkan mendukungnya. “Tampaknya hanya ada sedikit minat dari platform mana pun untuk mengambil tindakan terkait hal ini,” kata Koebler. “Mereka secara aktif, dalam beberapa kasus, memproduksinya sendiri, dan berkata, 'Lihat betapa kerennya teknologi ini!'”
Baik Meta maupun X telah banyak berinvestasi pada AI, menawarkan alat bagi pengguna untuk menambah jumlah air kotor yang terus meningkat di platform mereka. Akun resmi Meta bahkan mengunggah foto AI dari cahaya utara di atas San Francisco di Threads — balasan teratasnya adalah seorang insinyur NASA yang menjelaskan mengapa gambar seperti ini menyebarkan informasi palsu dan “memperkeruhkan kenyataan.”
Kebocoran AI akan terus ada selama orang-orang menemukan cara untuk menghasilkan uang darinya, sama seperti praktik apa pun di media sosial, dari yang sekadar menjengkelkan hingga yang benar-benar berbahaya. Koebler menduga bahwa spam AI menjadi sangat populer karena beberapa platform menindak konten yang dicuri dari pembuat konten asli, sehingga menjadikan AI sebagai pilihan termudah kedua bagi pelaku spam.
“Orang-orang hanya memposting apa pun yang mereka dapatkan dari mesin generator AI ini, terlepas dari tingkat kualitasnya,” katanya, “karena cara kerja algoritma viralitas dan media sosial, bahkan jika Anda memiliki karya terhebat di dunia. konten, itu mungkin tidak menjadi viral, sedangkan sesuatu yang tidak terlalu bagus mungkin saja, hanya karena Anda memenangkan undian.”
Ada ironi tertentu dengan gambar getaran musim gugur yang dihasilkan oleh AI, mengingat musim gugur sudah mulai menghilang di banyak wilayah AS dan emisi AI telah menjadi kontributor utama perubahan iklim.
Dan internet bukannya haus akan inspirasi musim gugur yang estetis: Setiap bulan September, media sosial dibanjiri gambar beranda bertabur labu, selimut nyaman di sofa nyaman, atau kota kecil yang ditutupi dedaunan kuning dan oranye. Selama beberapa tahun terakhir, kami menamai momen-momen kecil ini secara online dengan nama: Meg Ryan fall, yang memiliki rekomendasi pakaian dan playlist tersendiri., atau gadis Kristen musim gugur, di mana orang-orang melepaskan sisi kewanitaan mereka yang berkulit putih dengan mengenakan topi bertepi lebar dan sepatu bot setinggi lutut untuk menikmati latte bumbu labu. (Tahun ini, tampaknya kota fiksi Stars Hollow di Connecticut milik keluarga Gilmores memberikan banyak inspirasi.)
Semuanya sangat lucu dan menyehatkan, tetapi bahkan jenis konten buatan manusia ini semakin tidak lebih dari sekadar plot untuk membuat pemirsa mengeklik tautan afiliasi ke etalase Amazon atau sampah Toko TikTok yang sangat murah. Dengan cara ini, mereka tidak jauh berbeda dengan AI slop: Platform mendorong penggunanya untuk menjadi tenaga penjualan profesional, baik mereka menjual pakaian dan barang-barang rumah tangga yang dibuat secara tidak etis atau mengirim spam ke audiens dengan foto inspirasi yang dihasilkan AI. Keduanya merupakan jenis konten berkualitas rendah dan cepat diproduksi yang mendorong keterlibatan dan, oleh karena itu, pendapatan, bahkan ketika pengguna biasa mengatakan mereka membencinya.
Salah satu kegembiraan saat melihat-lihat foto musim gugur adalah mengetahui bahwa tempat-tempat ini ada dan secara teoritis Anda dapat mengunjunginya, bahwa dunia berubah secara mendasar di musim gugur, dan hanya ada sedikit waktu untuk mengagumi betapa indahnya tempat tersebut. semuanya adalah. Gambar yang dihasilkan AI mewakili kebalikannya: Ini hanyalah salah satu dari kemungkinan susunan piksel yang tak terbatas agar mesin dapat terus bekerja tanpa batas.
