Sembang sementara ChatGPT telah menjadi "mod inkognito" AI , satu ciri yang direka untuk mereka yang ingin bertanya soalan sensitif, menguji idea sulit atau sekadar menghalang perbualan tertentu daripada menjejaskan sembang mereka yang lain. Tetapi semakin kerap ia digunakan, semakin banyak persoalan timbul: Sejauh manakah privasinya sebenarnya? Apakah yang disimpan oleh OpenAI? Bolehkah sistem "mengingati" sesuatu yang kononnya tidak disimpannya?
Dalam beberapa bulan kebelakangan ini, terdapat laporan daripada pengguna yang prihatin yang mendakwa telah melihat maklumat yang dimasukkan dalam sembang sementara muncul semula dalam sembang biasa, bersama-sama dengan perbincangan teknikal tentang cara data "sementara" ini diuruskan, seperti kegagalan Copilot . Pada masa yang sama, dokumentasi OpenAI sendiri menjelaskan bahawa salinan disimpan selama 30 hari atas sebab keselamatan. Semua ini telah menghasilkan campuran minat, kekeliruan dan ketidakpercayaan yang harus ditangani dengan tenang.
Apakah sebenarnya sembang sementara ChatGPT?
Sembang sementara ChatGPT ialah mod perbualan "khas" yang direka untuk meningkatkan privasi . Mengaktifkannya akan memulakan sesi yang tidak disimpan dalam sejarah sembang biasa anda dan, menurut OpenAI, tidak digunakan untuk melatih model AInya. Dalam praktiknya, ia serupa dengan mod inkognito dalam pelayar seperti Chrome, Safari atau Firefox, tetapi digunakan pada pembantu perbualan.
Dalam sembang biasa, semua perbualan anda direkodkan dalam akaun anda , boleh disemak kemudian dan membentuk sebahagian daripada konteks yang membantu memperibadikan respons. Walau bagaimanapun, dalam sembang sementara, tiada kesinambungan sebaik sahaja anda menutup sesi: anda tidak boleh menyambungnya semula dan ia tidak muncul dalam senarai sembang anda. Dari perspektif pengguna, ideanya jelas: apa yang anda katakan di sana kekal di sana.
Bantuan rasmi OpenAI sendiri menggambarkan mod ini sebagai perbualan yang bermula "dari awal ." Model ini tidak melihat perbualan anda sebelumnya atau mengakses memori lalu, walaupun ia masih boleh menggunakan arahan peribadi anda jika anda mendayakannya (contohnya, nada respons atau konteks umum tentang profesion anda). Pemisahan ini mengingatkan konsep pemperibadian seperti Google Personal Intelligence , yang mengurus cara pilihan digunakan tanpa mencampurkan konteks.
Pemisahan ini amat penting kerana ChatGPT belajar daripada interaksi anda . Setiap soalan, setiap dokumen yang dimuat naik dan setiap butiran yang anda berikan dalam sembang biasa membantu memperhalusi tingkah laku model untuk perbualan akan datang. Sembang sementara cuba "memecahkan" corak ini dan menghalang satu pertukaran daripada mempengaruhi respons seterusnya atau kekal kelihatan dalam sejarah sembang anda.
Apa sebenarnya yang berlaku apabila anda mengaktifkan sembang sementara?
Mengaktifkan sembang sementara akan mencetuskan beberapa perubahan yang jelas dalam cara sesi anda diuruskan . Walaupun pada pandangan pertama ia kelihatan sangat serupa dengan sembang biasa, terdapat perbezaan yang ketara dalam storan, memori dan latihan model.
Apabila sembang sementara aktif, perkara berikut berlaku mengikut maklumat daripada OpenAI dan penerangan yang telah disebarkan:
- Perbualan tidak muncul dalam sejarah sembang andaAnda tidak akan melihat tajuk atau kandungan tersebut antara perbualan anda baru-baru ini.
- ChatGPT tidak "mengingati" perbualan itu untuk interaksi masa hadapanApa yang anda katakan di sana tidak akan digunakan semula sebagai konteks apabila anda kembali kepada perbualan biasa kemudian.
- Kandungan sembang sementara tidak ditambah ke memori ChatGPT. (jika anda telah mendayakan ciri memori berterusan peribadi).
- Sesi ini tidak digunakan untuk melatih model AI secara kekal.Dalam erti kata lain, ia tidak sepatutnya dimasukkan ke dalam sistem seperti sembang standard jika anda memberi kebenaran.
- OpenAI menyimpan salinan perbualan sehingga 30 hari atas sebab keselamatan dan pematuhan (pengesanan penyalahgunaan, penipuan, penggunaan haram, dll.), dan selepas tempoh itu ia menghapuskannya, pendekatan yang serupa dengan Imej sementara Google.
Tempoh pengekalan 30 hari ini merupakan salah satu aspek yang paling membimbangkan . Walaupun anda tidak boleh mengaksesnya dan ia tidak muncul dalam antara muka anda, ia masih wujud pada pelayan syarikat untuk masa yang terhad. Penjelasan rasmi biasanya ialah tempoh masa ini diperlukan untuk menyiasat penyalahgunaan, memenuhi keperluan undang-undang dan mengekalkan kebolehkesanan asas.
Semasa sesi berlangsung, tingkah lakunya adalah tipikal sembang "langsung" : model boleh merujuk kepada apa yang anda katakan beberapa mesej sebelum ini, menggunakannya sebagai konteks segera dan menjana respons yang koheren. Tetapi sebaik sahaja anda menutup atau meninggalkan sembang sementara, utas itu akan terputus. Tiada pilihan untuk kembali beberapa hari kemudian dan meneruskan dari tempat anda berhenti.
Apakah sebenarnya kegunaan sembang sementara dalam ChatGPT?
Penggunaan sembang sementara yang paling jelas adalah apabila anda perlu membincangkan perkara peribadi, sensitif atau perkara yang sangat sensitif dan anda tidak selesa perkara tersebut direkodkan dalam sejarah anda atau digunakan untuk melatih model tersebut. Ini termasuk perbualan tentang kesihatan, kewangan, konflik kerja, masalah keluarga, membangunkan idea perniagaan dan sebagainya.
Ramai pengguna menggunakannya tepat apabila mereka terpaksa berkongsi data yang mereka lebih suka untuk tidak dibiarkan "dirakam ". Ini mungkin dokumen dengan maklumat peribadi, teks undang-undang dengan nama yang betul, strategi profesional sulit atau butiran yang boleh mengenal pasti individu tertentu. Walaupun risiko sifar adalah mustahil, sembang sementara membolehkan pengguna mengurangkan pendedahan mereka berbanding menggunakan sembang biasa.
Tetapi terdapat kegunaan harian yang lebih biasa yang juga sesuai dengan mod ini . Contohnya, jika anda telah menghabiskan masa berminggu-minggu "melatih" ChatGPT untuk membalas dengan gaya, nada atau pendekatan profesional tertentu, anda mungkin tidak mahu satu soalan yang sama sekali berbeza mengganggu penyesuaian tersebut. Sembang sementara berfungsi sebagai zon neutral: anda bertanya soalan anda, mendapat jawapannya dan ia tidak menjejaskan pengalaman anda yang lain.
Ia juga berguna apabila anda mencari jawapan yang tidak dipengaruhi oleh perbualan anda sebelum ini . Jika anda telah membincangkan topik yang sangat spesifik selama beberapa hari (contohnya, projek kerja anda) dan tiba-tiba ingin meminta bantuan dengan sesuatu yang sama sekali berbeza (perkara peribadi, soalan undang-undang, masalah teknikal yang nampaknya tidak berkaitan), sembang sementara memastikan "kanvas kosong" di mana sistem tidak mempunyai inersia terdahulu.
Dalam persekitaran profesional dan perniagaan, pendekatan sementara ini mempunyai lebih banyak potensi . Pasukan pembangunan, jabatan pemasaran atau perundingan boleh menggunakan sembang sementara untuk menjalankan ujian pantas, eksperimen A/B, prototaip ejen perbualan atau mengerjakan aliran kerja tanpa kandungan tersebut bercampur dengan data "serius" yang melatih model yang digunakan dalam pengeluaran.
Apa yang tidak dilakukan oleh sembang sementara (dan apakah hadnya)
Salah satu salah tanggapan yang paling biasa ialah sembang sementara adalah mod tanpa nama dan boleh dikesan sepenuhnya , seolah-olah anda bercakap dengan model tempatan yang hanya wujud pada komputer anda. Ini tidak berlaku. Walaupun ia menambah lapisan privasi berbanding sembang standard, ia mempunyai batasan jelas yang harus diingat.
Perkara pertama yang perlu diketahui ialah sembang sementara bukanlah perbualan yang boleh anda sambung semula kemudian . Ia bersifat sementara, hampir boleh dibuang. Jika selepas beberapa ketika anda ingin kembali ke topik yang sama dengan konteks penuh, tiada cara untuk menyambung dari tempat anda berhenti: anda perlu bermula dari awal dalam sembang lain, sama ada sementara atau biasa.
Ia juga tidak akan membenarkan anda memintas sekatan atau had pelan anda . Jika akaun anda mempunyai kuota penggunaan, had mesej, templat atau ciri yang tersedia tertentu, sembang sementara tertakluk kepada peraturan yang sama. Ia bukan cara untuk memintas kawalan, penapis kandungan atau dasar keselamatan.
Satu lagi perkara penting ialah, walaupun sembang sementara tidak digunakan untuk melatih model , perbualan masih boleh disemak secara dalaman dalam tempoh 30 hari tersebut (contohnya, untuk audit keselamatan atau tindak balas insiden). Ini bermakna ia bukan sistem 100% selamat di mana tiada orang lain boleh melihat apa yang telah anda tulis.
Tambahan pula, masih terdapat ketidakpastian tentang apa sebenarnya maksud "tidak melatih model" . Janji biasa syarikat ialah data ini tidak digabungkan ke dalam latihan keseluruhan atau digunakan untuk menambah baik keseluruhan model. Walau bagaimanapun, ramai pengguna tertanya-tanya sama ada ia boleh digunakan dalam bentuk agregat, tanpa nama atau untuk ujian dalaman. Kekurangan ketelusan ini menyemarakkan sebahagian daripada ketidakpercayaan.
Kes pengguna yang melihat data sembang sementara muncul semula
Salah satu kisah yang paling hangat diperkatakan ialah kisah seorang pengguna yang menggunakan sembang sementara untuk mengusahakan idea baharu , sesuatu yang dia tidak mahu dirakam atau dikaitkan dengan profilnya. Pada masa itu, dia menganggap bahawa apa yang dia katakan dalam sesi itu akan kekal terpencil dan tidak akan disusuli.
Beberapa hari kemudian, dalam perbualan biasa, dia mula meminta idea untuk mengemas kini bio Instagramnya . Menurut akaunnya, sistem itu mula mencadangkan frasa dan butiran yang hanya disebutnya dalam perbualan sementara itu, yang menimbulkan semua tanda amarannya. Apabila dia secara eksplisit memberitahu AI bahawa ia menggunakan kandungan daripada sembang sementara itu, model itu memohon maaf, menyatakan bahawa ia telah memasukkan maklumat itu ke dalam ingatannya, dan berjanji untuk memadamkan semua yang berkaitan dengan perbualan itu.
Tingkah laku ini menimbulkan persoalan yang sangat serius: adakah model tersebut sebenarnya menarik maklumat daripada sembang sementara atau adakah ia hanya "berhalusinasi" dan memberikan respons generik yang ditafsirkan oleh pengguna sebagai kebetulan? Pengguna yang terjejas itu sendiri mengakui bahawa penjelasan rasmi merujuk kepada ralat model (halusinasi) dan bukannya pelanggaran fungsi sementara yang disengajakan.
Bimbang, dia menghubungi sokongan OpenAI . Respons yang diterimanya ialah, menurut sistem mereka, memadam sembang dan menggunakan mod sementara bermakna data ini tidak disimpan atau digunakan untuk melatih model. Pasukan sokongan mencadangkan kemungkinan kekeliruan dan menjelaskan bahawa model tersebut mungkin telah mencampuradukkan maklumat atau butiran yang direka-reka, satu kejadian biasa dalam LLM apabila mereka cuba menjadi berguna tanpa data yang mencukupi.
Walau bagaimanapun, pengguna tersebut masih tidak yakin dengan penjelasan itu . Mereka merasakan butirannya terlalu spesifik untuk menjadi satu kebetulan semata-mata. Sokongan kemudian meminta contoh konkrit, cap waktu dan petikan mesej yang tepat untuk disiasat lebih lanjut. Dan di sini, dua realiti bertembung: keperluan untuk bukti teknikal dan keengganan pengguna untuk berkongsi data peribadi yang mereka ingin rahsiakan secara khusus.
Respons OpenAI dan keraguan yang masih ada
Dasar rasmi OpenAI adalah jelas: sembang sementara tidak digunakan untuk melatih model, dan data akan dipadamkan selepas maksimum 30 hari . Walau bagaimanapun, salinan mungkin disimpan dalam tempoh ini untuk tujuan keselamatan, pematuhan undang-undang dan pengesanan penyalahgunaan. Pada peringkat produk, mesejnya ialah jika anda mahukan lapisan privasi tambahan, gunakan sembang sementara dan padamkan sejarah sembang anda apabila anda menganggapnya sesuai.
Masalahnya ialah janji ini bercanggah dengan perasaan ramai pengguna bahawa ketelusan adalah terhad . Tiada cara mudah untuk mengaudit dari luar dengan tepat apa yang sedang dilakukan dengan data tersebut. Anda tidak boleh log masuk ke papan pemuka dan melihat bagaimana sembang sementara anda telah diuruskan, dan anda juga tidak boleh mengesahkan secara bebas bahawa ia tidak digunakan untuk tujuan latihan.
Lebih buruk lagi, sifat model bahasa memudahkan untuk tersilap menganggap kebetulan sebagai kenangan . Jika anda telah mengatakan sesuatu yang sangat spesifik tetapi tidak sepenuhnya unik, model tersebut mungkin menghasilkan tindak balas yang serupa kemudian semata-mata disebabkan oleh kebarangkalian linguistik, dan otak anda mungkin mentafsirkan bahawa ia "mengingati" apa yang anda katakan, walaupun sebenarnya ia hanya menggabungkan semula corak.
Dalam kes yang dibincangkan, sokongan OpenAI malah mengakui bahawa model tersebut "berhalusinasi" apabila ia mendakwa telah memasukkan maklumat tersebut ke dalam ingatannya . Dalam erti kata lain, ChatGPT sendiri mereka-reka idea bahawa ia menggunakan data sembang sementara dan kemudian memadamkannya. Dakwaan palsu seperti ini daripada model berfungsi sebagai peringatan bahawa penjelasannya tentang cara ia berfungsi secara dalaman tidak selalunya boleh dipercayai: ia kekal sebagai penjana teks, bukan alat diagnostik telus untuk sistemnya sendiri.
Perbandingan dengan mod inkognito pelayar
Analogi yang paling kerap digunakan ialah Chrome dan mod inkognitonya yang terkenal , yang selama bertahun-tahun dipasarkan sebagai sejenis jubah halimunan tetapi kemudiannya terbukti mempunyai lebih banyak batasan daripada yang dicadangkan oleh pemasaran. Selari ini telah menyebabkan ramai orang bercakap tentang "detik mod inkognito" OpenAI.
Dalam pelayar web, mod inkognito menghalang peranti anda daripada menyimpan sejarah, kuki atau borang , tetapi ia tidak menghalang pembekal internet anda, laman web yang anda lawati atau syarikat anda (jika anda berada di rangkaian korporat) daripada merakam aktiviti anda. Perkara yang serupa berlaku dengan sembang sementara: ia meningkatkan privasi dari perspektif akaun dan sejarah anda, tetapi ia tidak bermakna data tidak melalui pelayan syarikat atau tiada kesan aktiviti anda.
Perbezaan utamanya ialah di sini kita bukan sahaja berurusan dengan sejarah pelayaran , tetapi juga dengan maklumat yang kompleks: idea perniagaan, dokumen dalaman, strategi profesional, data peribadi atau bahan sulit. Itulah sebabnya jangkaan privasi jauh lebih tinggi dan mengapa sebarang ketidakkonsistenan menimbulkan begitu banyak ketidakpercayaan.
Kebimbangan ini telah menyebabkan sesetengah pengguna mendakwa bahawa privasi dan keselamatan siber OpenAI adalah "longgar ", terutamanya apabila mereka meminta pengguna yang terjejas untuk berkongsi data tertentu bagi menganalisis potensi ralat. Dari perspektif pengguna akhir, respons "menghantar kepada kami semua yang salah, secara terperinci" boleh bercanggah dengan realiti bahawa mereka sebenarnya tidak mahu berkongsi maklumat tersebut dengan sesiapa pun.
Implikasi teknikal dan perniagaan: sesi vs storan berterusan
Dari perspektif teknikal, cabarannya terletak pada pemisahan yang jelas antara konteks sesi dan storan berterusan . Dalam erti kata lain, membezakan antara apa yang perlu dilihat oleh model dalam masa nyata untuk bertindak balas (apa yang anda hantar pada masa itu) dan apa yang kemudiannya disimpan sebagai sebahagian daripada profil atau set data latihan.
Amalan terbaik dalam platform perbualan lanjutan termasuk menyulitkan data pada peringkat sesi , melaksanakan dasar pengekalan yang boleh dikonfigurasikan dan mengekalkan kebolehkesanan peristiwa. Ini membolehkan pengalaman yang sangat diperibadikan semasa perbualan tertentu tanpa maklumat sensitif itu bercampur dengan data kekal pengguna atau sistem.
Dalam persekitaran perniagaan, sembang sementara amat berguna untuk ejen sokongan yang perlu mengingati apa yang berlaku semasa interaksi tertentu (contohnya, isu yang dilaporkan oleh pelanggan) tanpa data tersebut digabungkan secara sembarangan ke dalam sistem keseluruhan syarikat. Ini juga terpakai untuk ujian bukti konsep, rintis dalaman dan prototaip yang bertujuan untuk diasingkan daripada persekitaran pengeluaran.
Syarikat yang membangunkan aplikasi tersuai sering menggabungkan perkhidmatan awan dengan storan konteks sementara , saluran paip anonimisasi dan sistem pengauditan. Matlamatnya adalah untuk AI memberikan respons yang konsisten sepanjang sesi tanpa mencipta arkib kekal bagi semua yang diperkatakan. Mengintegrasikan ini dengan papan pemuka, alat analitik dan juga risikan perniagaan memerlukan mereka bentuk seni bina dengan mengambil kira kebolehskalaan dan tadbir urus data.
Sementara itu, keselamatan dan peraturan memacu agenda mereka sendiri . Pengujian keselamatan siber, ujian penembusan, pengerasan sistem dan kawalan akses berterusan adalah penting ketika mengendalikan data sensitif, walaupun secara teorinya "sementara." Kegagalan dalam lapisan keselamatan boleh menjadikan sembang sementara menjadi sumber kebocoran yang sama seriusnya dengan pangkalan data tetap.
Adakah semuanya benar-benar hilang selepas 30 hari?
Salah satu soalan besar yang ditanya oleh ramai orang ialah sama ada terdapat bukti kukuh bahawa data sembang sementara dipadamkan sepenuhnya selepas 30 hari dan tidak digunakan "dalam apa jua cara" selepas itu. Pada masa ini, jawapan yang jujur ​​ialah kami bergantung pada kepercayaan terhadap dasar dalaman syarikat dan undang-undang yang mewajibkannya mematuhinya.
Tiada cara awam untuk mengaudit pemadaman ini secara langsung daripada akaun pengguna . Anda tidak boleh membuka papan pemuka untuk melihat bagaimana setiap perbualan telah dihapuskan, dan tiada laporan yang boleh dimuat turun yang memperincikan pemusnahan data. Dalam praktiknya, ini adalah janji kontraktual: OpenAI mendakwa untuk melakukannya, dan jika tidak, ia akan menghadapi masalah undang-undang dan reputasi yang ketara.
Bagi pengguna yang sangat mementingkan privasi, ini mungkin tidak mencukupi . Malah, sesetengah orang lebih suka menggunakan hanya model tempatan (LLM yang berjalan pada komputer mereka sendiri) untuk mempunyai kawalan mutlak ke atas tempat data mereka disimpan. Masalahnya, seperti yang ditunjukkan oleh ramai, ialah perkakasan rumah tidak selalunya setanding: model yang paling berkuasa memerlukan mesin yang sangat mencabar, dan pada peralatan sederhana, pengalaman menjadi perlahan dan terhad.
Sementara itu, ChatGPT, bagi kebanyakan orang, kekal sebagai pilihan yang menawarkan kualiti respons terbaik , yang memerlukan keseimbangan tertentu: menggunakannya untuk apa yang memberikan nilai paling tinggi, tetapi dengan keraguan tentang perkongsian maklumat yang mereka tidak mahu meninggalkan lingkungan terdekat mereka. Sembang sementara mengurangkan sebahagian daripada ketakutan itu, tetapi tidak menghapuskannya sepenuhnya.
Memandangkan realiti ini, cadangan praktikal biasanya adalah menggunakan sembang sementara untuk mengurangkan pendedahan , elakkan menghantar data yang tidak akan anda kongsikan dengan mana-mana perkhidmatan dalam talian lain, dan, jika tahap sensitiviti adalah melampau, pertimbangkan penyelesaian di premis atau model tempatan dengan serius, walaupun ia melibatkan kos yang lebih tinggi dan prestasi yang lebih buruk.
Pendek kata, ciri sembang sementara ChatGPT merupakan alat yang berguna untuk memisahkan perbualan sensitif daripada penggunaan harian anda , tetapi ia bukanlah jaminan anonimiti mutlak atau penyelesaian ajaib untuk semua isu privasi. Ia membantu mencegah topik tertentu daripada mempengaruhi sembang anda pada masa hadapan, disimpan dalam sejarah anda dan melatih model, dengan kos menerima bahawa ia akan kekal di pelayan OpenAI sehingga 30 hari di bawah peraturan keselamatan dan pematuhan mereka sendiri.
