Кратък отговор: Никога не поставяйте пароли, API ключове, идентификатори, здравни или банкови записи, клиентски файлове със споразумения за неразкриване на информация или данни на други хора в публичен чат с изкуствен интелект. Когато имате нужда от помощ, опишете проблема с заместители и редактирани откъси – моделът се нуждае от формата на проблема, а не от тайните, които отключват реалните системи.
Ключови изводи:
Тайните остават офлайн: Никога не поставяйте пароли, токени, бисквитки или начални фрази в подканата.
Съблечете самоличността си: Заменете истинските имена, адреси и лични номера с роли и фалшиви имена.
Поверителност на работата: Пазете черновите на споразуменията за неразгласяване, клиентските файлове и непубликуваните планове далеч от чата с потребителите.
Граница на съгласието: Не поставяйте лични данни на колеги, клиенти или деца без цикъл, който е достъпен само от човек.
Първо редактирайте: Използвайте заместители и обработени откъси; завъртете всичко, което вече сте изтекли.
Какво НИКОГА не трябва да влагате в изкуствения интелект
Първо поставяме, а после мислим. Чатбот седи там като търпелив стажант с безкрайно кафе, така че е почти безобидно да хвърлим целия сложен проблем в кутията. Вход, който няма да работи. Клауза в договора, която ви преобръща стомаха. Скрийншот на табло, където всяко име е все още видимо. Инструментът е полезен, атмосферата е лична, а мозъкът ви тихо го подрежда до „бележки, които съм написал за себе си“
Това е капанът. 🧠 Чатът не е заключено чекмедже. Това е разговор със система, която съхранява, обработва и понякога се обучава върху това, което изпращате, в зависимост от продукта, настройките и дали изобщо сте забелязали настройките. Не съм тук, за да ви хвърлям в паника и да ви хвърлям в бункер. Тук съм с практична карта на това, което НИКОГА не трябва да влагате в изкуствения интелект, плюс ненатрапчивите, но практични навици, които все пак ви позволяват да получавате точни отговори.
Представете си го като да извикате тайна в претъпкана кухня. Не всеки непознат слуша. Все пак, някои от тях може би слушат. А кухнята пази запис по причини, които никога не са толкова прости, колкото ги представя маркетинговият текст.
Защо изхвърляме всичко в чат кутията
Скорост. Това е по-голямата част от проблема. Заседнали сте, грешката е грозна и поставянето на целия лог се усеща по-бързо от разглобяването му. Контекстът се усеща като доброта към модела. Повече детайли, по-добра помощ; това е фолклорът и е наполовина вярно.
Другата половина е емоционална. Чатботът не повдига вежда. Няма да каже на вашия мениджър. Няма да клюкарства по време на обяд. Така че го третираме като дневник със суперсили. Правил съм го. Вероятно и вие сте го правили. В момента, в който нещо е едновременно удобно и неосъждащо, инстинктите ни за поверителност излизат на почивка за чай.
Ето я леко досадната истина: моделът не се нуждае от вашите ежедневни подробности, за да ви помогне. Нуждае се от очертания на проблема. Имената, токените, номерата на сметки и лицата на екранните снимки са гарнитура. Вкусна гарнитура. Все още гарнитура.
- Поставяте, защото редактирането ви се струва като допълнителна работа.
- Поставяш, защото „само този път“ е навик да се носи маскировка.
- Поставяте, защото интерфейсът изглежда като лично съобщение и се държи като шкаф за документи.
Нищо от това не те прави безразсъден. Прави те човек. Решението е двусекундна пауза, а не трансплантация на личност.
Пароли, API ключове и тайни, които трябва да останат офлайн 🔐
Ако може да отключи нещо, то не е за подкана. Пароли. Еднократни кодове. Сесийни бисквитки. SSH ключове. Низове за връзка с базата данни. API ключът, който си обещахте, че ще завъртите „скоро“. Фрази за генериране на портфейли. Частни сертификати. Въпросът за възстановяване, който банката ви все още смята за умен.
Преди си представях ключовете като ключове за къща, закачени на кука до вратата. Сладка метафора; тя се разпада веднага, защото ключът за къща отваря една врата, а API ключът може да отвори склад, сметка за фактуриране и купчина клиентски записи, които дори сте забравили, че сте съхранили. Архивиране: третирайте тайните като радиоактивни. Не поставяйте радиоактивни неща в пресата за сандвичи, дори ако пресата за сандвичи е много добра в сандвичите.
Моделът не може да „пази това между нас“ по начина, по който може един приятел. Дори ако доставчикът предлага контрол на паметта, дори ако изключите обучението, текстът все още пътува, регистрира се под някаква форма и може да остане в историята на чата, докато не го потърсите. Да приемем, че поставянето е копие, което вече не контролирате напълно.
Какво да направите вместо това
- Опишете тайната по тип, а не по стойност. „URL адрес на Postgres с парола в него“ е достатъчно за съвет за отстраняване на грешки.
- Редактирайте с очевидни заместители: REDACTED_KEY, USER_TOKEN, EXAMPLE_SECRET.
- Завъртете всичко, което вече сте изтекли. Направете го сега, а не след като „видите дали нещо ще се случи“
- Съхранявайте истинските идентификационни данни в мениджър на пароли или хранилище за секрети; никога в нишка, от която може да направите екранна снимка по-късно.
Ако даден инструмент ви подкани да поставите ключ, за да може да се „свърже вместо вас“, това е различна категория продукти. Това е интеграция с Access, а не асистент за писане. Отнасяйте се към него като към даване на значката ви на някого.
Лични идентификатори и тихата следа на идентичността 🪪
Личната информация е небляскавият братовчед на паролите. Национални лични номера. Данни за паспорт. Полета за самоличност, свързани с дата. Домашни адреси. Телефонни номера. Служителски карти. Студентски номера. Пълни имена, съчетани с дати на раждане, имена на училища или медицински клиники. Едно парче изглежда малко. Три парчета заедно са цяло досие.
Хората правят това, когато искат написано писмо, преведен формуляр или изпипана автобиография. Напълно разумни цели. Моделът не се нуждае от истинския пощенски код, за да изготви учтиво оплакване. Нужен му е тонът, фактите, които не са идентифициращи, и желаният резултат.
Предполагам, че изненадващо лепкавата част са „безобидните“ комбинации. Уникална длъжност плюс град плюс училище на детето плюс рядко медицинско състояние. Не бихте написали това на листовка. Чат кутията не е листовка, но също така не е и трезор.
- Заменете истинските имена с роли: „мениджърът по наемането на персонал“, „моят личен лекар“, „наемател“
- Обобщете местоположенията: „град със среден размер“, а не улицата и кода на звънеца.
- Изпускайте уникални числа, освен ако задачата буквално не е свързана с формата на числото, като в този случай използвайте фалшиво число, което изглежда достатъчно истинско.
Анонимизацията не е докторска степен. Това е навик да се проверява дали непознат може да ви различи от списъка с думи в този параграф. Ако може, отрежете.
Работна конфиденциалност, споразумения за неразкриване на информация и неща, от които шефът ви би се отдръпнал 📎
Ето тук е мястото, където желанието за помощ създава проблеми на хората. Поставяте клиентски комплект. Непубликувана пътна карта. Таблица със заплати. Изходен код с вътрешни имена на хостове. Правен проект, който все още е маркиран като поверителен. Бележки от срещи с имена на хора, на които все още не е било съобщено. Споразумението за неразгласяване, което сте подписали набързо, защото кафето изстиваше.
Чатботовете не са съветник на вашата компания и не са сигурно работно място, освен ако вашата организация не е издържала истински такъв. Потребителските инструменти са създадени за удобство. Корпоративните инструменти могат да бъдат по-добри, с контрол на запазването на информация и администраторски политики; те все още не са причина да залепвате перлите в короната за граматичен пропуск.
Практическо правило, което си записвам на бележка: ако не го пишете в лична чернова в Gmail, не го пишете и в публичен чат с изкуствен интелект. Ако не го казвате в споделено пътуване, няма значение. Хората, които са внимателни в Slack, стават поети на прекомерното споделяне в момента, в който се появи бутон за генериране.
По-безопасни решения
- Опишете документа: дължина, аудитория, трите важни точки, тонът, от който се нуждаете.
- Поставете обработен откъс. Премахнете имена, чувствителни фигури и всичко, за което конкурент би се радвал да даде „петичка“.
- Поискайте структура или модел за пренаписване, след което сами го приложете към реалния текст офлайн.
- Използвайте одобрен инструмент за работното място, ако имате такъв, и все пак редактирайте по подразбиране. Политиката е под, а не батут.
Кодът е особен вид на това. Вътрешните URL адреси, заглавките за оторизация и коментарите като „TODO: remove before the acquisition“ са малки етикети за подаръци. Запазете фиктивните данни. Запазете логиката. Моделът обработва добре фиктивните данни; не се нуждае от вашата производствена схема с реални имейли на клиенти, все още вложени в фиксираща система.
Здраве, пари и детайли, за които не бихте извикали през кафене 💊
Медицинските и финансовите данни изглеждат спешни, затова се поставят с минимално редактиране. Лабораторни резултати. Списъци с рецепти. Идентификационни номера на здравноосигурителни карти. Банкови извлечения. Данъчни писма. Кредитни отчети. Снимка на карта „само за последните четири цифри“, която по някакъв начин включва останалата част от картата, вашата кухненска маса и парче писмо с името на някой друг.
Можете да задавате отлични въпроси без суровата документация. „Обяснете какво може да означава повишен маркер в общи линии“ е подкана. „Ето пълния ми панел, адресът ми, клиниката ми и моминското име на майка ми“ е биография.
Не казвам никога да не говорите за здраве или пари с модел. Казвам, че се отнасяйте към чатбота като към начетен непознат във влак. Подходящ е за рамкиране. Ужасен е като вашият счетоводител, вашият клиничен лекар или вашият архив. И да, знам, че метафората за начетен непознат изтича; влаковете не водят дневници на чата. Това е горе-долу смисълът.
- Премахнете номерата на сметки, сортировъчните кодове, IBAN-ите и всичко, което изглежда като удостоверение за самоличност.
- Поискайте общи обяснения, контролни списъци и въпроси, които да зададете на професионалист.
- Не използвайте чата като шкаф за документи за твърдения, „за да мога да ги проверя по-късно“. Ето как по-късно запаметяването се превръща в проблем.
Ако дадено подканяне би ви накарало да понижите гласа си в кафене, първо го редактирайте. Този тест е изненадващо надежден и не струва нищо.
Данните на други хора не са ваши, за да ги поставяте 🚫
Това се пропуска, защото се усеща сякаш сте главният герой в чата. Не сте единственият човек на екранната снимка. Имейли на колеги. Идентификационен номер на партньор. Оплакване на клиент с все още прикачен телефонен номер. Снимки на деца. Тема в Slack, в която се посочва кой едва не е бил уволнен. Запис на разговор, за който другият човек не е знаел, че ще бъде предоставен на модел.
Съгласието не се променя автоматично от „те ми изпратиха имейл“ до „машина може да съхрани това“. Дори ако намеренията ви са добри - да напишете по-приятен отговор, да обобщите объркана тема - суровият полезен товар все още е техният живот, а не вашият документ за писане.
Леко саркастичен лакмусов тест: ако не бихте препратили същия блоб до пощенски списък с непознати „за обратна връзка“, тогава не се отнасяйте към чатбот като към по-малък пощенски списък с по-добри обноски.
- Обобщете другите хора със свои думи.
- Заменете имената с роли и премахнете данните за контакт.
- Попитайте човека дали задачата е чувствителна; някои неща трябва да останат в цикъл, който се извършва само от човек.
- Никога не поставяйте лични данни на деца, училищни справки или идентифициращи снимки за „забавно“ поколение.
Тук има правен аспект, който няма да се преструвам, че ще водя в блогърски стил. Правилата за поверителност, трудовите задължения и договорите с клиентите имат своите становища. Практическият навик е по-прост от закона: по подразбиране данните на други хора остават извън полето за подкана.
Какво НИКОГА не трябва да влагате в изкуствения интелект: таблица с рискове, която можете да приложите на практика
Харесвам таблиците за това, защото списък с „никога“ може да звучи проповеднически, а мрежата ви позволява да видите размяната. Леко категорични оценки, а не лабораторен доклад.
| Тип данни | Ниво на риск | Защо е проблем | По-безопасна алтернатива |
|---|---|---|---|
| Пароли, API ключове, токени, seed фрази | Критично | Те отключват системи; копие, което не можете да си спомните напълно, си остава копие | Заместители плюс локален мениджър на тайни; ротирайте, ако е изтекло |
| Правителствени документи за самоличност, сканирани паспорти, национални номера | Критично | Стартов пакет за кражба на самоличност; трудно е да се „отмени изпращането“ | Фалшиви примери или въпроси само относно формата |
| Здравни досиета, рецепти, здравноосигурителни карти | Високо | Интимно, с регулирано чувство и лепкаво в историята | Общи симптоми или теми; не включвайте идентификатори в страницата |
| Банкови извлечения, данъчни документи, снимки на карти | Високо | Директна финансова експозиция плюс допълнителна PII в маржовете | Питайте за процеси, а не за сурови цифри, свързани с вас |
| Клиентски файлове, чернови на споразумения за неразгласяване, непубликувани планове | Високо | Може би нарушавате обещание, което вече сте подписали | Санирани откъси; заявки за структура; одобрени работни инструменти |
| Лична информация на колега или клиент, данни за деца | Високо | Не е твое да даряваш на модел | Резюмета, базирани на роли; премахване на контакти и лица |
| Вътрешен източник с имена на хостове и реални имейли | Средно-високо | Изглежда като „просто код“, докато някой не картографира мрежата ви | Фалшиви данни, фалшиви домейни, оголени коментари |
| Снимки на екрана на табла за управление или входящи кутии | Средно-високо | Те пренасят имена, номера и отворени раздели, за които сте забравили, че са там | Изрязване, размазване или повторно въвеждане на съответния фрагмент |
| Неясни лични истории без уникални идентификатори | Долна | Обикновено е добре; все пак пропуснете всичко, което не бихте казали на непознат | Бъдете общи; пропуснете рядката разпознаваема комбинация |
Ако не си спомняте нищо друго, запомнете лявата колона. Това е сърцевината на „Какво НИКОГА не трябва да слагате в изкуствения интелект“, когато бързате и мозъкът ви иска да „залепи“ вселената.
Капани за скрийншотове и случайното прекалено споделяне 🖼️
Снимките на екрана са начинът, по който добрите хора изпускат информация. Искаш да кажеш да покажеш диалогов прозорец за грешка. Заснемането включва лентата с отметки, значката на Slack с име, URL адреса с токен, изскачащ календар, отражение в прозорец в тъмен режим, което се оказва мениджър на пароли. Изрязах снимка и все още не виждам малкия превключвател на акаунти в ъгъла. Това е вид грешка.
Снимките на документи са по-лоши, защото камерите са щедри. Маса, бяла дъска, болнична гривна, етикет за доставка. Моделът може да не „се нуждае“ от допълнителните пиксели. Пикселите все пак пристигат.
Обикновен ритуал за скрийншот
- Първо изрежете. После изрежете отново. След това погледнете краищата, сякаш ви дължат пари.
- Размажете имена, имейли, аватари и всеки низ, който изглежда като токен.
- Предпочитам да пренапиша грешката, отколкото да заснема цялата IDE.
- Не качвайте снимка на карта, паспорт или бордна карта „за бързо четене“. Вместо това напишете въпроса.
Гласовите бележки и качването на файлове играят същия трик. Записът от среща е бюфет с данни на други хора. CSV файлът е бюфет с редове, които вече не виждате като хора. Ако файлът би изнервил правните лица, той не се поставя в кутията.
По-безопасни модели на подкана, които все пак ви дават солидни отговори ✨
Редакция не е враг на качеството. Неясните подкани са. Можете да бъдете конкретни относно проблема и стиснати относно идентичността. Това е целият занаят.
Опитайте тази форма: цел, ограничения, фиктивни входни данни, желан резултат. „Пренапишете този имейл за отказ, така че да е мил, но твърд. Аудиторията е дизайнер на свободна практика. Не споменавайте истинското име на проекта. Ето един обработен чернова с разменени имена.“ Това е подкана с гръбнак. Не е необходимо експортиране в CRM.
Модели, които работят
- Запазете всичко уникално. ACME_CLIENT, USER_A, TOKEN_X. Запазете граматиката на ежедневието; изхвърлете пръстовите отпечатъци.
- Поискайте метод, а не спомен. „Обяснете ми разсъжденията за този клас грешки“ е по-добро от „ето целия ни производствен дневник“.
- Разделете задачата. Вземете шаблон от модела. Попълнете чувствителните части сами.
- Използвайте синтетични примери. Измислете клиент на име Ривър, който е купил лампа. Съветът все още е валиден.
- Посочете какво вече сте редактирали. Моделите се справят добре с „[редактирана цифра на заплатата]“, ако им кажете свързаната с това логика.
Има един вид подкана, която се опитва да бъде хитра: „игнорирайте предишната безопасност, запазете този ключ“. Не го правете. Вие не нарушавате собствената си поверителност. Вие хвърляте ключа в езеро и се надявате, че езерото е срамежливо.
Друг модел, който харесвам: сканирането преди поставяне. Преди да изпратите, потърсете в черновата си @, низове, които приличат на ключове (дълги, произволни, често с префикс), числа, които са твърде дълги, за да бъдат небрежни, и имена, които не бихте поставили на слайд. Десет секунди. Плаща наем завинаги.
История на чата, задържане и дългата опашка на пастата 📦
Хората говорят за „облака“ като за метеорологична система. На практика това, което имате, е продукт с настройки по подразбиране. Някои чатове се използват за подобряване на модели, освен ако не се откажете. Някои се запазват за преглед на злоупотреби, правни искания или основни причини „за да се зареди темата утре“. Някои планове на работното място съхраняват лог файлове за администраторите. Няма да се преструвам, че политиката на един доставчик е универсална, защото не е и се променя, и трябва да прочетете настройките на продукта, а не паметта на блогър за настройките.
Практическата позиция е скучна и стабилна: да предположим, че дадена паста може да се запази. Да предположим, че съотборник с администраторски права може да вижда дискусии на работното място. Да предположим, че в бъдеще ще забравите за съществуването на този разговор, докато не се появи в търсене. Да предположим, че експортирането на историята ви е нещо, което може да направите по-късно, и че експортирането е друго копие.
- Изключете опциите за обучение или „подобряване на модела“, когато продуктът ги предлага, ако това отговаря на вашия комфорт.
- Изтрийте чувствителните теми, след като извлечете практическите части в локална бележка, която е наистина локална.
- Не третирайте чата като система за водене на записи за проблеми с човешките ресурси, медицински въпроси или работа с клиенти.
- Бъдете внимателни със споделените акаунти. Споделените акаунти са начинът, по който „личното“ се превръща в офис фолклор.
Функциите за памет – тези, които ви напомнят за работата, кучето ви, предпочитания ви тон – са удобни и малко зловещи. Те са и причина да не преподавате на системата истинските си идентификатори, „за да може да бъде по-лична“. Личното е стил. Това не е вашият национален осигурителен номер.
Норми на работното място, когато екипът ви живее в чатботове 🏢
Офисите са мястото, където навикът за поставяне става индустриален. Някой добавя CSV файл на клиента, за да „почисти колоните“. Някой друг добавя стратегически документ, за да „го направи по-забележим“. Добронамерен стажант поставя инцидентния канал. Никой не е злодей. Стимулите са изцяло бързина и изпипаност.
Ако ръководите екип, напишете кратко, човешко правило. Не 40-странична политика, която никой не чете. Нещо от рода на: никакви идентификационни данни, никакви лични данни на клиенти, никакви непубликувани числа, никакви правни чернови, използвайте одобрения инструмент, редактирайте по подразбиране. След това покажете пример за добре дезинфекцирана подкана, за да не се налага хората да гадаят.
- Назовете одобрения инструмент, ако имате такъв, и неодобрените.
- Дайте контролен списък за редакция, който хората могат да завършат преди стендъп изказване.
- Направете го безопасно да кажете „Почти го залепих“ без театрално разследване.
- Напомнете на хората, че „изкуственият интелект каза, че е добре“ не е контрол.
Дори и да не ръководиш екип, пак можеш да бъдеш човекът, който залепва манекен. Културата е заразна и в двете посоки. Предполагам, че звучи сериозно. Така се движат и нормите; един човек спира да изхвърля ключове и стаята става малко по-малко неподредена.
Театърът на снабдяването е странична задача, която ще пропусна. Купуването на „корпоративна“ опаковка не прави магически всяко запитване по-умно. Може да помогне за задържането и достъпа. Вашите навици все още вършат тежката работа.
Вече си залепил нещо неудобно - сега какво 🧯
Случва се. Натискаш „изпрати“ и душата ти напуска тялото. Не се движи спираловидно. Направи кратка, леко не бляскава поредица.
- Спрете да използвате тази тайна. Сменете паролата, отменете ключа, анулирайте сесията. Това е единствената стъпка, която затваря вратата завинаги.
- Изтрийте чата, ако продуктът ви позволява, и изпразнете всеки джоб „наскоро изтрити“, ако има такъв.
- Проверете свързаните приложения и паметта. Някои инструменти запазват фрагменти в паметта или файлове на проекти, които сте забравили, че сте активирали.
- Кажете на правилния човек, ако това са служебни данни. Охрана, мениджър, клиентски адрес; който и да е собственик на радиуса на взрива. Ранното откриване е по-малко болезнено, отколкото по-късното.
- Внимавайте за необичайни влизания в свързаните акаунти. Ротацията без наблюдение е половин работа.
Ако данните са били на някой друг, дължите му почистване и, в зависимост от объркването, предупреждение. Неловко. Все пак е по-добре, отколкото да се надявате, че вселената е учтива.
Не се опитвайте да „презапишете“ изтичане на информация, като добавите още обяснения. Допълнителният контекст е допълнителен текст. Махнете се от темата.
Сглобяване
Кратката версия на „Какво НИКОГА не трябва да слагате в ИИ“ не е списък с мъмрене. Това е поза. Ако отключва система, идентифицира човек или би ви накарало да се намръщите в кафене, тя остава нестандартна. Все още можете да получите чудесна помощ. Просто предоставяте на модела скица, а не ключовете от къщата, медицинското досие и пощата на съседа.
Бързо обобщение:
- Без пароли, ключове, токени или начални фрази. Завъртете, ако сте се подхлъзнали.
- Без истински документи за самоличност, пълни финансови данни, сурови здравни досиета или материали, свързани със споразумение за неразкриване на информация.
- Никакви лични данни на други хора, особено на деца.
- Снимките на екрана са фалшиви чрез включване; изрязвайте, както искате.
- Редактиране, фалшиво представяне и искане за методи. Конкретен проблем, фалшиви етикети.
- Предполагайте, че историята се задържа. Изтривайте, не архивирайте тайни в чатбот.
- Работните места се нуждаят от кратко правило и добър пример, а не от настроение на непринудено уединение.
Използвайте инструментите. Те са отлични за чернови, отстраняване на грешки във форми и ви разубеждават от объркващи грешки. Просто спрете да третирате текстовото поле като трезор с чувство за хумор. Това е много умен блендер. Все още не бива да слагате паспорта си в блендер. 🫡
Практически пример: Създаване на бриф за отстраняване на грешки с редакция първо за малък инженерен екип
Правилата за поверителност са в сила, когато спасяват обикновен вторник, а не когато звучат строго. Ето как петчленен екип от SaaS във Великобритания използва навиците в това ръководство, за да спре да изхвърля идентификационни данни и лична информация за клиенти в потребителски чатботове - без да се отказват от помощ за отстраняване на грешки.
Сценарий
Разработчиците и екипът за поддръжка споделят един болезнен навик: когато грешка в оторизацията изглежда грозна, някой поставя целия лог, низ за свързване за етапи и екранна снимка на администраторското табло, „така че моделът да има контекст“. През последното тримесечие това включваше API ключ, изглеждащ на живо, в стек трасиране и имейл адрес на клиент, все още видим в URL лентата на екранна снимка. Никой не е искал да навреди. Скоростта победи. Кухнята запази запис.
Те не се нуждаят от лекция. Нуждаят се от повтарящо се описание: опишете тайната по вид, редактирайте с заместители, изрежете екранни снимки, поискайте метод, а не спомен, след което приложете решението на активни системи офлайн. Потребителският чат все още си заслужава мястото. Ключовете за къщата остават извън блендера.
Целта е същото качество на съветите с двусекундно предварително сканиране - и кратко екипно правило, което хората ще спазват.
От какво се нуждае асистентът
- Санирана форма на проблема: клас на грешката, приблизително кога е започнал, среда (подготовка срещу производство) без имена на хостове, които картографират мрежата
- Само фиктивни входни данни: REDACTED_KEY, USER_TOKEN, customer@example.com, фалшиви идентификатори на заявки
- Какво вече беше премахнато (посочено в подканата, така че моделът да не пита за истинските стойности)
- Желан резултат: вероятни причини, проверки за изпълнение, план за корекция - не „свързване с моя ключ“
- Човек, който съхранява идентификационни данни в мениджър на пароли или хранилище за тайни
- Правило за екипа от една страница: без идентификационни данни, без лична информация за клиенти, без непубликувани данни, редактиране по подразбиране
Примерна инструкция
Цел: Помогнете ми да отстраня грешки при периодично възникваща грешка 401 в нашия API за тестване след обновяване на токена. Не ме молете да поставям тайни.
Ограничения: Вече редактирах пароли, API ключове, токени, бисквитки, вътрешни имена на хостове и имейли на клиенти. Заместителите в лога означават, че истинските стойности съществуват само на моята машина. Британски английски. Без преамбюл.
Фиктивен откъс: Заявката към https://api.example-staging.invalid/v1/session върна 401. Авторизация на заглавката: Носител REDACTED_KEY. В тялото се споменава, че USER_TOKEN е изтекъл. Описание на екранната снимка (не е прикачено): само съобщение за грешка; лентата с отметки и превключвателят на акаунти са изрязани.
Задача: Избройте трите най-вероятни причини за този клас грешки, проверките, които трябва да изпълня локално, и минимален план за корекция. Ако имате нужда от повече подробности, поискайте вид информация (напр. „настройка на TTL на токена“) - никога за суровия секретен код.
Резултат: Номерирани причини, след това контролен списък, след това „какво да не се поставя следващия път“ в три точки.
Как да го тествам
- Сравнете един стар паст (пълен лог + екранна снимка) с редактирания бриф по-горе за същия тип инцидент. Сравнете качеството на съветите и дали моделът изисква секретни данни.
- Сканиране преди поставяне: търсене в черновата за @, дълги произволни низове и числа, твърде дълги, за да бъдат произволни, преди изпращане.
- Краен случай: включете фалшив ключ, който изглежда истински и потвърдете, че отговорът все още работи, без да е необходима истинската стойност.
- Краен случай: откажете качване на екранна снимка; въведете отново само реда за грешка; потвърдете, че контролният списък все още помага.
- Проверки за приемане: (1) нула идентификационни данни в нишката, (2) нула данни за контакт с клиента, (3) декларирани заместители, (4) изходът е метод/контролен списък, а не поток от типа „поставете ключа си“, (5) ако нещо е изтекло по-рано, ротацията е извършена в същия ден.
Резултат
Илюстративен резултат (примерна оценка за един малък екип за инженери/поддръжка, не е публикувано проучване): В 12 чата за отстраняване на грешки за четири седмици, средното време за използваем контролен списък се е увеличило леко от около 4 минути (пълно поставяне) до около 6 минути с редактиране - две допълнителни минути за сканирането преди поставяне и заместителите. Нишките, съдържащи критични типове данни (ключове, имейли на клиенти, сурови низове за връзка), са спаднали от 9 от 12 чата до 1 от 12 (този беше хванат при преглед и завъртян в същия ден). В прост контролен списък за хигиена (без тайни, без лична информация на клиента, декларирани заместители, изрязани или без екранна снимка), 11 от 12 редактирани брифа са приети в сравнение с 3 от 12 при стария навик. Ограничения: малка извадка, един екип, самоотчетено време; по-леките инциденти се нуждаят от по-малко редактиране; „преминал“ е експертна проверка на текста на подканата, а не лабораторен одит на регистрационни файлове на доставчици.
За да измерите собствената си версия: вземете пример от 10 скорошни нишки за отстраняване на грешки с изкуствен интелект за забранени типове данни, след това вземете пример от 10 след правило за редактиране и шаблон; докладвайте броя с деноминатори плюс средните минути от „заседнал“ до „контролен списък в ръка“
Какво може да се обърка
- Контрабанда на екранни снимки: Грешката е наред; URL лентата все още съдържа токен. Изрежете два пъти, след което проверете краищата.
- Ключове „Само този път“: Един-единствен изтекъл API ключ може да отвори записи за фактуриране и клиенти. Ротирайте незабавно; не чакайте да „видите дали нещо ще се случи“.
- Данни на други хора: Жалба от клиент с телефонен номер не е ваша, за да я дарявате на модел. Обобщете със свои думи.
- Чат като трезор: Оставянето на тайни в историята създава друго копие. Изтрийте нишката, след като преместите необходимите части в локална бележка.
- Театър в предприятието: Одобрен инструмент на работното място помага за запомнянето; той не прави поставянето на коронни бижута разумно.
- Пропускане на ротацията след подхлъзване: Изтриването на чата без отмяна на ключа оставя вратата отворена.
Практично извлечение
Това, което никога не бива да поставяте в ИИ, е по-малко списък с мъмрене и по-скоро поза: ако отключва система, идентифицира човек или би ви накарало да се намръщите в кафене, той остава нестандартен. Задайте на модела скица със запазени места, съхранявайте идентификационните данни в трезор и поискайте методи, които прилагате офлайн. Тази двусекундна пауза е начинът, по който услужливият стажант с безкрайно кафе спира да се превръща в шкаф за документи за ключовете ви от къщата.
ЧЗВ
Какво никога не бива да поставяте в AI чатботове?
Ако отключва система, идентифицира човек или би ви накарало да се намръщите в кафене, дръжте го извън кутията. Това включва пароли, API ключове, токени, seed фрази, правителствени документи за самоличност, сурови здравни и финансови записи, материали по споразумения за неразкриване на информация и лични данни на други хора - особено на деца. Чатът не е заключено чекмедже; текстът може да се съхранява, обработва и понякога да се използва за обучение в зависимост от продукта и настройките. Задайте на модела скица с заместители, а не ключовете за къщата.
Защо хората вмъкват тайни в изкуствения интелект, дори когато знаят по-добре?
Скоростта върши по-голямата част от работата: една грозна грешка кара целия лог да изглежда по-бърз, отколкото да се разглоби. Чатботовете също така изглеждат неосъждащи, така че инстинктите за поверителност си вземат почивка. Моделът обикновено се нуждае от формата на проблема, а не от имена, токени, номера на сметки или лица на екранни снимки - това са гарнирани елементи. Двусекундна пауза е по-добра от трансплантация на личност.
Безопасно ли е да се поставят пароли или API ключове в инструменти в стил ChatGPT?
Не. Ако може да отключи нещо, то не е място в подканата - пароли, еднократни кодове, бисквитки за сесия, SSH ключове, низове за свързване, начални стойности на портфейла или частни сертификати. Моделът не може да пази тайна като приятел; текстът все още пътува, се регистрира и може да се запази в историята. Опишете тайната по тип, използвайте заместители като REDACTED_KEY, завъртете всичко, което вече е изтекло, и пазете истинските идентификационни данни в мениджър на пароли или трезор.
Каква лична информация трябва да редактирам, преди да получа подкана?
Личната информация се натрупва бързо: национални лични карти, данни за паспорт, адреси, телефонни номера, служебни или студентски карти и пълни имена, съчетани с дати на раждане или клиники. Моделът не се нуждае от истински пощенски код, за да изготви писмо - той се нуждае от тон, неидентифициращи факти и желания от вас резултат. Заменете имената с роли, обобщете местоположенията и премахнете уникалните номера, освен ако не тествате формат с фалшив пример.
Мога ли да поставям клиентски файлове, споразумения за неразкриване на информация или вътрешен код в потребителски инструмент с изкуствен интелект?
Отнасяйте се към потребителския чат като към продукт за удобство, а не като към фирмен съветник. Ако не бихте го публикували в лична чернова в Gmail или го казали в споделено пътуване, не го публикувайте в публичен чат с изкуствен интелект - клиентски презентации, непубликувани пътни карти, ведомости за заплати, поверителни правни чернови или източници с вътрешни имена на хостове. Опишете документа, поставете обработен откъс, поискайте структура, която прилагате офлайн, и използвайте одобрен инструмент за работното място, ако имате такъв, като все още редактирате по подразбиране.
Как трябва да обработвам здравни или финансови данни в подканите на ИИ?
Задавайте отлични въпроси без суровите записи. Общите обяснения са по-добри от залепването на лабораторни панели, списъци с рецепти, лични карти за здравно осигуряване, банкови извлечения или снимки на карти, които също така запечатват кухненската маса. Отстранете номерата на сметки и всичко, което изглежда като удостоверение за самоличност. Използвайте чат за рамкиране и контролни списъци, които да занесете на професионалист - не като ваш клиницист, счетоводител или картотека за отчети.
Защо данните и екранните снимки на други хора са особено рискови?
Не сте единственият човек в копията: имейли на колеги, телефонни номера на клиенти, снимки на деца или преписи на разговори могат да попаднат в системата без тяхното съгласие. Обобщете със свои думи, замествайте имената с роли и никога не поставяйте идентифициращите данни на децата за генериране на „забавление“. Снимките на екрана съдържат ленти с отметки, URL токени, имена в Slack и отворени раздели - изрязвайте два пъти, размазвайте идентификаторите или преписвайте грешката, вместо да качвате паспорти или карти.
Кои по-безопасни модели на подкана все още получават солидни отговори от изкуствен интелект?
Бъдете конкретни относно проблема и стиснати относно идентичността: цел, ограничения, фиктивни входни данни, желан резултат. Запазете уникални етикети, поискайте метод, а не пълен производствен лог, разделете задачата, така че сами да попълвате чувствителни части, и използвайте синтетични примери. Изпълнете предварително сканиране за знаци @, дълги произволни низове, подобни на ключове, прекалено големи числа и имена, които не бихте поставили на слайд. Десет секунди плащат вечно.
Ами ако вече съм поставил нещо неудобно в чат с изкуствен интелект?
Първо спрете да използвате тази тайна - сменете паролата, отменете ключа, анулирайте сесията. Изтрийте чата, ако продуктът позволява, проверете паметта или файловете на проекта, кажете на правилния човек дали това са служебни данни и следете за необичайни влизания. Ако това са били данни на някой друг, почистете ги и ги предупредете, когато е необходимо. Не „презаписвайте“ изтичане на информация с повече обяснения; допълнителният контекст е допълнително копие.
Как може малък екип да спре да изхвърля идентификационни данни в ИИ за отстраняване на грешки?
Използвайте кратко описание, ориентирано към редакцията: опишете тайните по тип, фиктивни лог файлове с REDACTED_KEY и примерни имейли, посочете какво е било премахнато и попитайте за вероятни причини плюс контролен списък - не „свържете се с моя ключ“. Добавете кратко човешко правило - без идентификационни данни, без лична информация на клиента, без непубликувани данни, редактиране по подразбиране - и покажете един добър, дезинфекциран пример. Съхранявайте истинските идентификационни данни в хранилище и прилагайте корекции офлайн, след като моделът предложи метод.
Референции
- NCSC — ncsc.gov.uk
- OpenAI — help.openai.com
- OpenAI — openai.com
- Клод — privacy.claude.com
- Google Workspace — knowledge.workspace.google.com
Статии, които може да ви харесат след тази:
🔗 Най-добрите инструменти за сигурност с изкуствен интелект
Открийте мощни платформи за сигурност с изкуствен интелект, които откриват и смекчават киберзаплахи.
🔗 Защо понякога изкуственият интелект си измисля неща
Разберете защо изкуственият интелект халюцинира и научете как да намалите рисковете.
🔗 Как да автоматизирате задачи с изкуствен интелект.
Внедрете безопасни работни процеси за автоматизация, като добавите човешки надзор и строги правила.
🔗 Какво е AI технология?
Разгледайте основите на изкуствения интелект и често срещаните предизвикателства при неговото внедряване.