Andrey Dolbilin on Nostr: Задумался - если каждый юзер напишет что 2+2=5, то ...
Задумался - если каждый юзер напишет что 2+2=5, то получится бигдата, способная посеять сомнения у ИИ. Примет ли он в конце концов ложь за истину или нет? Способен ли ботнет убедить промптами ИИ в лживой истине? Что вообще можно почитать про безопасность ИИ?
Published at
2024-02-29 18:55:29Event JSON
{
"id": "6cd5502c9f3a5ff84594c5dc927f813795ae91a611c03a5833df2c6543f68501",
"pubkey": "d48089c569ee4088509505ee741ff4ad949bf331d722ef56457e42d8813bc473",
"created_at": 1709229329,
"kind": 1,
"tags": [
[
"proxy",
"https://mastodon.ml/users/ionice/statuses/112016053307298034",
"activitypub"
]
],
"content": "Задумался - если каждый юзер напишет что 2+2=5, то получится бигдата, способная посеять сомнения у ИИ. Примет ли он в конце концов ложь за истину или нет? Способен ли ботнет убедить промптами ИИ в лживой истине? Что вообще можно почитать про безопасность ИИ?",
"sig": "28c6230fe2580306ae31967b969988df32afc4022cbe6a7fa105d12d8a1ea819d5c098144d43ca9e96e93d0c539bfb2e704ce9d080bb95f4c721c2f50ddb2cb8"
}
