Автор: hotsnail
Дата: 28-12-22 12:54
mihalo ловко си уцелил големи проблеми на AI.
AI рекомбинира познания на хора. Нови неща не прави! Какво става когато няма кой, да го пълни?
Другото е, че сегашните модели грешат в един процент от случаите. С масовото навлизане на тия системи грешките на AI ще започнат да се приемат като истина - прогнози за пазара, политически анализи, управление на коли, оръжия, детайли от външния вид на хора....Това е подобно на руската пропаганда, но ще е много по-трудно да забележим грешките.
Последното за което ме подсещаш е зависимостта ни на алгоритми, които не разбираме и не знаем как да поправим. Това може да се окаже фатално за цивилизацията. Има такива писания още от началото на 20-ти век. Тогава не са знаели, че ще му казваме AI...
AI моделите с които фокусират камерите, чатим или правят картинки, песни и филми са само в режим на използване. За разлика от хората, моделите не научават нищо при използването си. Може в рамките на чат да пази контекст и изглежда все едно помни, но това изчезва на следващия чат. Следващите 5-10 години ще се доминират от подобни модели, които ще се обновяват от производителя само. Разбираш риска промяна на входните данни да прецака целия модел. Например промяна в законодателството, технологично развитие в друга сфера и т.н. ще направят съществуващите модели неадекватни. Примерно нашия парламент гласува нов вид на пътните знаци и всички умни коли ..... или си представи рядко природно бедствие, което AI модела на колата не познава...или рядко (макар и лесно лечимо) заболяване което модела в компютъра на доктора ти не познава и неволно те отравя....
Публикацията е редактирана (28-12-22 13:15)
|
|