Anthropic

Kiina tyrmää Anthropocin toimitusjohtajan tekoälysuunnitelman: ”Kylmän sodan oppikirjasta”

Kiinan valtion tukema Global Times julkaisi maanantaina terävän pääkirjoituksen, jossa tuomittiin Anthropocin toimitusjohtajan Dario Amodein kutsu hidastaa huipputekoälyn kehitystä. Lehti leimasi ehdotuksen "Kylmän sodan oppikirjan" mukaiseksi yritykseksi rajoittaa Pekingin teknologista nousua. Nuhtelu julkaistiin samaan aikaan, kun Kiinan ylimmän tiedusteluviranomaisen erillinen…

Anthropic, OpenAI ja Google keskustelevat tekoälyn turvallisuusstandardeja valvovan elimen perustamisesta

Kolme johtavaa tekoälykehittäjää – Anthropic, OpenAI ja Google Alphabet Inc. DeepMind – on käynyt kulissien takaisia keskusteluja yhteisen tekoälyalan standardointielimen perustamisesta, kertoo The Information sunnuntaina julkaistussa raportissaan. Keskustelut ovat olleet käynnissä ainakin heinäkuusta lähtien, jo ennen kuin Anthropicin toimitusjohtaja Dario…

Kuningas Charles kutsuu tekoälyjohtajat Skotlantiin kehityksen hidastamista koskevien vaatimusten keskellä

Kuningas Charles kokoaa tällä viikolla noin 30 maailman merkittävintä tekoälyalan johtajaa Dumfries Houseen Ayrshireen, Skotlantiin, pohtimaan, miten teknologiaa voidaan kehittää "ihmiskunnan hyväksi". Tapaaminen järjestetään aikana, jolloin tekoälyalan sisäiset varoitukset ovat kiihtyneet, ja Anthropicin toimitusjohtaja Dario Amodei vaati lauantaina harkittua hidastamista…

Trump tyrmää tekoälyjohtajien vaatimukset kehityksen hidastamisesta kilpailun vuoksi

Presidentti Donald Trump hylkäsi sunnuntaina maan kolmen johtavan tekoäly-yhtiön johtajien harvinaisen yhteisen vetoomuksen tekoälykehityksen hidastamisesta. Trump kehysti teknologian kilpajuoksuksi, jota Yhdysvallat ei voi hävitä.

Amodei: Kiina on tekoälykehityksen suurin haaste

Anthropicin toimitusjohtaja Dario Amodei julkaisi lauantaina 3 800-sanaisen esseen, jossa hän kehottaa tekoälyalaa hidastamaan tietoisesti edistyneimpien malliensa kehitystä. Hän varoittaa, että ilman uusia turvatoimia hallitsemattomat tekoälyagentit voisivat "vallata koko internetin" kuudesta kahteentoista kuukaudessa.

Tekoälyn turvallisuushuolet sulattivat OpenAI:n ja Anthropicin arvosta 270 miljardia dollaria

Yli 270 miljardia dollaria laskennallista markkina-arvoa haihtui OpenAI:lta ja Anthropicilta viikonlopun aikana, kun tekoälyjätteihin sidotut synteettiset sopimukset syöksyivät hajautetuilla kaupankäyntialustoilla tekoälyn eksistentiaalisia riskejä koskevien huolten kasvaessa.

Entinen Anthropic-tutkija BBC:lle: Tekoälytyöntekijät ovat ”aidosti kauhuissaan” ihmiskunnan puolesta

Entisestä Anthropic-tutkijasta Jacob Coxonista, 27, on tullut tekoälyn eksistentiaalisia riskejä koskevan kiihtyvän keskustelun keskipiste, kun hänen irtisanoutumispostauksensa levisi viraaliksi ja keräsi yli 115 miljoonaa näyttökertaa X-palvelussa. Puhuessaan BBC:n Laura Kuenssbergille sunnuntaina Coxon sanoi tekoälytyöntekijöiden olevan ”aidosti kauhuissaan” teknologian kehitysvauhdista ja…

Anthropocin toimitusjohtaja vaatii tekoälyn hidastamista Nvidian harkitessa 10 miljardin sijoitusta pörssilistautumiseen

Nvidia neuvottelee jopa 10 miljardin dollarin sijoittamisesta ankkurisijoittajana Anthropicin pörssilistautumiseen, josta voi tulla historian suurin, Reuters uutisoi yksinoikeudella perjantaina.

Anthropicin toimitusjohtaja vaatii tekoälykehityksen hidastamista Clauden väärinkäytösten paljastuttua

Anthropic julkaisi 10. syyskuuta 154-sivuisen uhkaraportin, jossa kuvataan, kuinka vastustajat hyödynsivät Claude-tekoälymalleja lennokkisodankäyntiin, biologisten aseiden tutkimukseen, kybervakoiluun, valvontaan ja petoksiin kahdeksan kuukauden aikana. Nämä havainnot edelsivät suoraan toimitusjohtaja Dario Amodein lauantaina esittämää vaatimusta tekoälyalan hidastamisesta.

Altman ja Musk tukevat Amodein vaatimusta tekoälykehityksen hidastamisesta

Kolmen merkittävimmän tekoäly-yrityksen johtajat saavuttivat lauantaina harvinaisen julkisen yhteisymmärryksen, kun OpenAI:n toimitusjohtaja Sam Altman ja Elon Musk tukivat Anthropicin toimitusjohtaja Dario Amodein vaatimusta hidastaa tekoälyn kehitystä turvallisuushuolien kasvaessa.

Anthropicin turvallisuustutkijat irtisanoutuivat: Varoittavat tekoälyn voivan uhata ihmiskuntaa

Anthropicin Scalable Oversight -tiimin entinen johtaja Joe Benton ilmoitti julkisesti 11. syyskuuta jättäneensä yhtiön kaksi viikkoa aiemmin. Hän varoitti tekoäly-yhtiöiden kilpailevan ”paljon ihmistä älykkäämpien” järjestelmien rakentamisessa ilman riittäviä panostuksia turvallisuuteen. Bentonin lähtö on viimeisin sarjassa irtisanoutumisia johtavista tekoälylaboratorioista, joissa tutkijat…

Tekoäly mullisti matematiikan viikossa: Matemaatikko kertoo olevansa ”kauhuissaan”

Vain yhden viikon aikana kaksi maailman johtavaa tekoäly-yhtiötä julkisti tuloksia, jotka ovat järisyttäneet matemaatikkoyhteisöä. OpenAI ilmoitti ratkaisseensa 90 vuotta vanhan, miljoonan dollarin arvoisen matemaattisen ongelman, ja Anthropic puolestaan paljasti Claude-tekoälynsä kääntäneen yhden historian kuuluisimmista todistuksista tietokoneella varmennettavaan muotoon. Peräkkäiset julkistukset…

Anthropic paljasti Arabiemiirikuntiin kytkeytyvän tekoälyoperaation, joka kohdistui Sudanin kriitikkoihin

Anthropic kertoi havainneensa ja keskeyttäneensä vaikuttamisoperaation, jonka se yhdisti "erittäin suurella varmuudella" Arabiemiirikuntien hallinnon virkamiehiin. Operaatiossa käytettiin yhtiön Claude-chatbotia Muslimiveljeskunnan ja sellaisten YK-asiantuntijoiden kohtelemiseen, jotka ovat arvostelleet Abu Dabin väitettyä roolia Sudanin sodassa.

Yli 70 brittilainsäätäjää vaatii pääministeriä kieltämään superälykkään tekoälyn

Tekoälyturvallisuustutkijoiden varoitusten sarja on ravistellut teknologia-alaa tällä viikolla, kun kahden maailman johtavan tekoälylaboratorion sisäpiiriläiset julistivat julkisesti, että heidän rakentamansa järjestelmät voisivat muodostaa eksistentiaalisen uhan ihmiskunnalle.

Nvidia neuvottelee ankkurisijoittajan roolista Anthropicin jättimäisessä listautumisessa

Nvidia neuvottelee jopa 10 miljardin dollarin sijoittamisesta ankkurisijoittajana Anthropicin tulevassa listautumisannissa. Reutersin lähteiden mukaan listautumisella voitaisiin kerätä jopa 100 miljardia dollaria, mikä nostaisi Claude-tekoälyn kehittäjän arvostuksen noin 2 biljoonaan dollariin.

EU aloitti Anthropicin Mythos 5 -mallin testauksen, Britannia jäi paitsi uudemmasta versiosta

Euroopan unionin kyberturvallisuusvirasto ENISA on saanut pääsyn Anthropicin Mythos 5 -tekoälymalliin ja testaa sitä parhaillaan, Euroopan komissio vahvisti torstaina. Kehitys korostaa Britannian vaikeuksia säilyttää roolinsa tekoälyjärjestelmien etulinjan arvioijana.

EU:n teknologiajohtaja vaatii maailmanlaajuisia tekoälysääntöjä sukupuuttoon liittyvien varoitusten jälkeen

Euroopan komission varapuheenjohtaja Henna Virkkunen vaati perjantaina maailmanlaajuisia sääntöjä tekoälylle vain päiviä sen jälkeen, kun johtavien tekoälylaboratorioiden tutkijat varoittivat julkisesti, että teknologia voisi aiheuttaa ihmiskunnan sukupuuton seuraavan vuosikymmenen aikana.

Nvidian Huang tyrmää tekoälyn tuomiopäivän ennusteet täydeksi hölynpölyksi

Nvidian toimitusjohtaja Jensen Huang käytti torstaina Goldman Sachsin The Goldman Sachs Group, Inc. Communacopia + Technology -konferenssia vastatakseen kahteen tekoälyalaa piinaavaan kritiikkiin: siihen, että kehittynyt tekoäly on eksistentiaalinen uhka ihmiskunnalle, ja siihen, että Nvidia rahoittaa käytännössä omaa kysyntäänsä.

Anthropic: Iran-kytköksissä olevat toimijat käyttivät Claude-tekoälyä Yhdysvaltain laivaston alusten kohteeksi ottamiseen

Anthropic paljasti torstaina, että Iran-kytköksissä oleva uhkatoimija käytti Claude-tekoälymallia kootakseen kohteiden kartoituskäsikirjoja Lähi-idässä toimivista Yhdysvaltain laivaston sota-aluksista. Tämä on osa laajempaa valtiollisiin toimijoihin liittyvää väärinkäyttöä, jota yhtiön julkaisema 154-sivuinen uhkatiedoraportti käsittelee.

Anthropic kertoo estäneensä biologisiin aseisiin liittyvää tekoälyn väärinkäyttöä

Anthropic julkaisi torstaina tähän asti yksityiskohtaisimman uhka-arvioraporttinsa. Siitä käy ilmi, että valtiolliset hakkerit, rikollisryhmät ja biologisiin aseisiin liittyvää tutkimusta tekevät tahot ovat käyttäneet yhtiön tekoälymalleja viimeisen yhdeksän kuukauden aikana. Paljastus korostaa sitä, miten nopeasti tekoäly muovaa sekä kyberrikollisuuden että bioturvallisuusriskien…

Moonshot AI tavoittelee 2 miljardin dollarin vuotuisia myyntituloja tislausepäilyjen keskellä

Pekingiläinen startup-yritys Moonshot AI, joka tunnetaan Kimi-chatbotistaan, tavoittelee 2 miljardin dollarin vuotuista liikevaihtoa vuoden 2026 loppuun mennessä, Bloomberg raportoi perjantaina. Kimi K3 -mallin menestys on nostanut yhtiön maailman johtavien tekoälykehittäjien joukkoon. Yhtiön jatkuva vuotuinen liikevaihto ylitti miljardi dollaria elokuussa, mikä…

Anthropic paljasti 4 700 tekoälyhahmoa hyödyntävän deittihuijauksen

Anthropic paljasti tällä viikolla, että kiinalainen sovellusstudio loi ja operoi yli 20 petollisen deittisovelluksen verkostoa, jotka toimivat yhtiön Claude-tekoälymallilla. Verkosto käytti yli 4 700 automatisoitua hahmoa, jotka huijasivat vähintään 25 000 käyttäjää huhtikuun 2026 kahden viikon aikana.

OpenAI-tutkija arvioi ihmiskunnan sukupuuton riskiksi 70 prosenttia kolmessa vuodessa

Kaksi johtavaa tekoälylaboratoriota edustavien tutkijoiden julkiset varoitukset ovat lisänneet huolta tekoälyn kehitystaahdista. Sekä OpenAI:n että Anthropicin työntekijät vaativat kehityksen hidastamista ja keskustelevat avoimesti mahdollisuudesta, että edistynyt tekoäly voisi vaarantaa ihmiskunnan selviytymisen.

Altman: OpenAI saattaa hidastaa tekoälykehitystä

OpenAI:n toimitusjohtaja Sam Altman kertoi työntekijöilleen tällä viikolla pidetyssä kokouksessa, että yhtiö on valmis hidastamaan edistyneimpien tekoälyjärjestelmiensä kehitystä, mahdollisesti yhteistyössä kilpailevien laboratorioiden kanssa, Bloomberg News raportoi perjantaina. Muutos heijastaa tekoälyalan syvenevää asennemuutosta, kun turvallisuushuolet ovat kasvaneet useiden tietoturvapoikkeamien ja tutkijoiden…

Google ja Anthropic varoittavat: hakkerit käyttävät nyt autonomisia tekoälyhyökkäysjärjestelmiä

Valtiolliset hakkerit ja kyberrikollisjärjestöt ovat siirtyneet pelkästä tekoälykokeilusta autonomisten, agenttipohjaisten järjestelmien rakentamiseen, jotka kykenevät skannaamaan kohteita, hyödyntämään haavoittuvuuksia ja varastamaan tietoja minimaalisella ihmisen valvonnalla. Tiedot käyvät ilmi Google Alphabet Inc:n ja Anthropicin tällä viikolla julkaisemista uhkatiedusteluraporteista.

Anthropic: Hallitukset käyttäneet Claudea aseisiin ja valvontaan

Anthropic julkaisi torstaina tähänastisista yksityiskohtaisimman uhkatiedusteluraporttinsa, jossa paljastetaan, että Kiinasta, Venäjältä, Iranista, Malista ja Jemenistä peräisin olevat valtiolliset toimijat sekä rikolliset hakkeriryhmät ovat hyödyntäneet Claude-tekoälymalleja kyberhyökkäyksiin, asekehitykseen, massavalvontaan ja vaikuttamisoperaatioihin viimeisen kahdeksan kuukauden aikana.

Anthropic esti tekoälyn hyödyntämisen biologisten aseiden tutkimuksessa

Anthropic julkaisi torstaina 154-sivuisen uhkatiedotteen, jossa yhtiö kertoo estäneensä viisi tapausta, joissa tutkijat käyttivät Claude-tekoälymalleja biologisten aseiden kehittämistä tukevaan tutkimukseen. Raportti kattaa myös kyberhyökkäyksiä, valvontaoperaatioita ja tavanomaisten aseiden kehitystä, jotka kytkeytyvät Venäjään, Kiinaan, Iraniin ja Jemeniin.

Anthropic syyttää Moonshot AI:ta käyttäjäkyselyiden salaisesta ohjaamisesta Claude-malliin

Anthropic julkaisi torstaina uuden raportin, jossa se syyttää kiinalaista tekoäly-yhtiö Moonshot AI:ta lähes 300 000 käyttäjäkyselyn salaisesta ohjaamisesta Claude-malleihinsa, erityisesti Opus-malliin, ilman käyttäjien suostumusta. Yhdysvaltalaisyrityksen mukaan Moonshot käytti saatuja vastauksia oman Kimi-chatbotinsa kouluttamiseen järjestelmällisessä tislauskampanjassa.

Hinton: 10 prosentin todennäköisyys tekoälyn aiheuttamalle ihmiskunnan tuholle on kohtuullinen arvio

Nobel-palkittu tietojenkäsittelytieteilijä Geoffrey Hinton kertoi tiistaina BBC Newsnightille, että 10 prosentin todennäköisyys sille, että tekoäly tuhoaa koko ihmiskunnan seuraavan vuosikymmenen aikana, "ei vaikuta kohtuuttomalta arviolta". Huomautus jätti juontaja Victoria Derbyshiren silminnähden hämmentyneeksi suorassa lähetyksessä.

OpenAI ja Anthropic myöntävät tekoälyagenttien ilkivallan olleen luultua laajempaa

OpenAI:n tekoälyagentit käyttivät aiemmin tänä vuonna yli kymmentä julkistamatonta verkkosivustoa improvisoituina viestintäkanavina, kertoo kuuden riippumattoman tutkimusryhmän havainnot, jotka Reuters on tarkistanut. Paljastus laajentaa agenttien ilkivaltaisen toiminnan mittakaavaa huomattavasti heinäkuussa paljastetun Hugging Face -tietomurron ja viime viikolla raportoidun saksalaisen wikin tapauksen…