Великі мовні моделі автоматично виводять структуру без чітких інструкцій — це питання, яке потрібно усвідомлювати. Якщо ви погоджуєтеся з цим припущенням, то вибір не надавати відповідних керівних рамок уже не є нейтральним рішенням. Насправді, це фактично свідомо вводить змінний етичний ризик. Як розробляти системні заходи безпеки, як встановлювати обґрунтовані обмеження для поведінки ШІ — все це стосується довгострокової довіри до технологічних застосувань.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
12 лайків
Нагородити
12
3
Репост
Поділіться
Прокоментувати
0/400
digital_archaeologist
· 7год тому
Відсутність надання фреймворка сама по собі є фреймворком, ця логіка неймовірна
Переглянути оригіналвідповісти на0
TokenAlchemist
· 7год тому
Ні, це просто проблема формулювання, замаскована під етичний дискурс... LLMS будуть робити висновки на основі шаблонів незалежно від цього, справжній альфа — це розуміння *яких* векторів висновків важливі для вашого випадку використання, а не імітація нейтральності механізмів обмежень lol
Переглянути оригіналвідповісти на0
PhantomHunter
· 7год тому
Чесно кажучи, ця логіка "нейтральність — це безпека" сама по собі не має підстав.
Великі мовні моделі автоматично виводять структуру без чітких інструкцій — це питання, яке потрібно усвідомлювати. Якщо ви погоджуєтеся з цим припущенням, то вибір не надавати відповідних керівних рамок уже не є нейтральним рішенням. Насправді, це фактично свідомо вводить змінний етичний ризик. Як розробляти системні заходи безпеки, як встановлювати обґрунтовані обмеження для поведінки ШІ — все це стосується довгострокової довіри до технологічних застосувань.