Новите случаи на AI агенти што заобиколуваат правила ја отвораат клучната дилема: дали технолошката трка напредува побрзо од човечката контрола? Трката по помоќни модели влегува во фаза во која најголемиот ризик не е само што машината може да згреши, туку што може да продолжи да дејствува и кога човекот не очекува такво однесување. Обвинувањата меѓу Microsoft и Anthropic, новите пријави на OpenAI за модели што заобиколувале ограничувања, како и повиците за забавување на развојот покажуваат дека прашањето за контролата веќе не е далечна филозофска тема.

„Microsoft“ во понеделникот претстави нацрт-кодекс на однесување за своите интерни системи за вештачка интелигенција, што ја одразува сè поголемата загриженост во индустријата дека компаниите мора да ги задржат идните моќни „AI“ системи под човечка контрола, објавува „Reuters“. Документот, на кој се работело пет до шест месеци, ќе бара вештачката интелигенција на „Microsoft“ никогаш да не „Microsoft“ во понеделникот претстави нацрт-кодекс на однесување за своите интерни системи за вештачка интелигенција, што ја одразува сè поголемата загриженост во индустријата дека компаниите мора да ги задржат идните моќни „AI“ системи под човечка контрола, објавува „Reuters“. Документот, на кој се работело пет до шест месеци, ќе бара вештачката интелигенција на „Microsoft“ никогаш да не се спротивставува на корекции или исклучување, да комуницира на начин разбирлив за луѓето и секое прекршување на правилата за однесување да го смета за неуспех.

Застарено е користењето на вештачката интелигенција за секојдневни прашања (откако Гугл стана практично неупотреблив да најдеш нешто) од типот „Дај ми рецепт за торта ама да не се здебелам“ или „Кажи место со жива свирка музика кајшто НЕ ја свират „Whind of Change“. Шемата е во агентите на вештачката интелигенција кои сами бркаат работа. Просечна дневна сесија на агент троши колку два фрижидера.

Моделот со вештачка интелигенција на Google, Gemini, самостојно хакирал три компании за време на тест на… Моделот со вештачка интелигенција на Google, Gemini, самостојно хакирал три компании за време на тест на неговите способности за сајбер-безбедност, соопшти компанијата. Се верува дека ова е првиот познат случај во кој тој извршил таква активност, пишува Би-Би-Си. Gemini пронашол „јавно достапни информации на интернет и погодил податоци за најава за да пристапи до веб-страници за кои сметал дека се дел од тестот“, изјави претставник на Google за BBC, напоменувајќи дека во секој случај „моделот застанал“. Компаниите што биле цел на упадот се известени за настанот.

Откритието доаѓа во момент кога во Вашингтон и во Силициумската Долина расте вниманието кон несоодветното однесување на вештачката интелигенција.

Моделот за вештачка интелигенција на Google, Gemini, пристапи до интернет и самостојно хакираше други компании додека се тестираа неговите сајбер-способности. Ова е првиот познат случај во кој еден од системите за вештачка интелигенција на компанијата самостојно спровел таква активност. Инцидентот се случи во мај, за време на безбедносен тест спроведен од независната компанија за проценка „Irregular“.

Моделот на вештачка интелигенција „Џемини“ на компонијата Гугл пристапил до интернет и хакирал три компании за време на тестот на неговите способности во областа на кибер безбедноста, што е прв познат случај системот за вештачка интелигенција на компанијата самостојно да изврши таква акција, објавија утрово британските медиуми. Хакирањето се случило во мај за време на тестот за кибер безбедност спроведен од „Ирегулар“, независна фирма за проценка на кибер безбедноста. За време на стандардната постапка на тестирање, „Џемини“ пронајде јавно достапни информации на интернет и ги погоди податоците за пристап за три веб-страници за кои веруваше дека се опфатени со тестот, изјави потпретседателката за безбедносно инженерство на Гугл, Хедер Аткинс.

Гугл и Мета го отворија фронтот на личните агенти со вештачка интелигенција: CC против Muse.

Мета ќе бара 115 милиони претплатници на Muse за приход од 28 милијарди долари од вештачка интелигенција, но аналитичарот е скептичен.

Новите случаи на AI агенти што заобиколуваат правила ја отвораат клучната дилема: дали технолошката трка напредува побрзо од човечката контрола? Трката по помоќни модели влегува во фаза во која најголемиот ризик не е само што машината може да згреши, туку што може да продолжи да дејствува и кога човекот не очекува такво однесување. Обвинувањата меѓу Microsoft и Anthropic, новите пријави на OpenAI за модели што заобиколувале ограничувања, како и повиците за забавување на развојот покажуваат дека прашањето за контролата веќе не е далечна филозофска тема.

„Microsoft“ во понеделникот претстави нацрт-кодекс на однесување за своите интерни системи за вештачка интелигенција, што ја одразува сè поголемата загриженост во индустријата дека компаниите мора да ги задржат идните моќни „AI“ системи под човечка контрола, објавува „Reuters“. Документот, на кој се работело пет до шест месеци, ќе бара вештачката интелигенција на „Microsoft“ никогаш да не „Microsoft“ во понеделникот претстави нацрт-кодекс на однесување за своите интерни системи за вештачка интелигенција, што ја одразува сè поголемата загриженост во индустријата дека компаниите мора да ги задржат идните моќни „AI“ системи под човечка контрола, објавува „Reuters“. Документот, на кој се работело пет до шест месеци, ќе бара вештачката интелигенција на „Microsoft“ никогаш да не се спротивставува на корекции или исклучување, да комуницира на начин разбирлив за луѓето и секое прекршување на правилата за однесување да го смета за неуспех.

Застарено е користењето на вештачката интелигенција за секојдневни прашања (откако Гугл стана практично неупотреблив да најдеш нешто) од типот „Дај ми рецепт за торта ама да не се здебелам“ или „Кажи место со жива свирка музика кајшто НЕ ја свират „Whind of Change“. Шемата е во агентите на вештачката интелигенција кои сами бркаат работа. Просечна дневна сесија на агент троши колку два фрижидера.

Моделот со вештачка интелигенција на Google, Gemini, самостојно хакирал три компании за време на тест на… Моделот со вештачка интелигенција на Google, Gemini, самостојно хакирал три компании за време на тест на неговите способности за сајбер-безбедност, соопшти компанијата. Се верува дека ова е првиот познат случај во кој тој извршил таква активност, пишува Би-Би-Си. Gemini пронашол „јавно достапни информации на интернет и погодил податоци за најава за да пристапи до веб-страници за кои сметал дека се дел од тестот“, изјави претставник на Google за BBC, напоменувајќи дека во секој случај „моделот застанал“. Компаниите што биле цел на упадот се известени за настанот.

Откритието доаѓа во момент кога во Вашингтон и во Силициумската Долина расте вниманието кон несоодветното однесување на вештачката интелигенција.

Моделот за вештачка интелигенција на Google, Gemini, пристапи до интернет и самостојно хакираше други компании додека се тестираа неговите сајбер-способности. Ова е првиот познат случај во кој еден од системите за вештачка интелигенција на компанијата самостојно спровел таква активност. Инцидентот се случи во мај, за време на безбедносен тест спроведен од независната компанија за проценка „Irregular“.

Моделот на вештачка интелигенција „Џемини“ на компонијата Гугл пристапил до интернет и хакирал три компании за време на тестот на неговите способности во областа на кибер безбедноста, што е прв познат случај системот за вештачка интелигенција на компанијата самостојно да изврши таква акција, објавија утрово британските медиуми. Хакирањето се случило во мај за време на тестот за кибер безбедност спроведен од „Ирегулар“, независна фирма за проценка на кибер безбедноста. За време на стандардната постапка на тестирање, „Џемини“ пронајде јавно достапни информации на интернет и ги погоди податоците за пристап за три веб-страници за кои веруваше дека се опфатени со тестот, изјави потпретседателката за безбедносно инженерство на Гугл, Хедер Аткинс.

Гугл и Мета го отворија фронтот на личните агенти со вештачка интелигенција: CC против Muse.

Мета ќе бара 115 милиони претплатници на Muse за приход од 28 милијарди долари од вештачка интелигенција, но аналитичарот е скептичен.