Rocksolid Light

groups  faq  privacy  How to post  login

Message-ID:  

You have an unusual equipment for success. Be sure to use it properly.


rocksolid / ger.ct / Re: Neue Warnung vor KI

SubjectAuthor
* Re: Neue Warnung vor KIStefan Ram
+- Re: Neue Warnung vor KIStefan Froehlich
`* Re: Neue Warnung vor KILars Gebauer
 +- Re: Neue Warnung vor KIUlf_Kutzner
 `- Re: Neue Warnung vor KILars Gebauer

1
Subject: Re: Neue Warnung vor KI
From: Stefan Ram
Newsgroups: ger.ct
Organization: Stefan Ram
Date: Sat, 11 May 2024 17:38 UTC
References: 1
Path: i2pn2.org!i2pn.org!weretis.net!feeder8.news.weretis.net!fu-berlin.de!uni-berlin.de!not-for-mail
From: ram...@zedat.fu-berlin.de (Stefan Ram)
Newsgroups: ger.ct
Subject: Re: Neue Warnung vor KI
Date: 11 May 2024 17:38:11 GMT
Organization: Stefan Ram
Lines: 17
Expires: 1 Feb 2025 11:59:58 GMT
Message-ID: <Risiken-20240511183507@ram.dialup.fu-berlin.de>
References: <u56l10$nbph$1@solani.org>
Mime-Version: 1.0
Content-Type: text/plain; charset=UTF-8
Content-Transfer-Encoding: 8bit
X-Trace: news.uni-berlin.de hhR7DyG664H0X/sahO+scAzFWH80u7tjYYLckSknj7mbSD
Cancel-Lock: sha1:p+YEQNvJGBN1TG2vvCj0Q2COS0Q= sha256:BhtPhnrREO1Tb1aLHysVrsT5gELJRthqYZBLFhbpZgk=
X-Copyright: (C) Copyright 2024 Stefan Ram. All rights reserved.
Distribution through any means other than regular usenet
channels is forbidden. It is forbidden to publish this
article in the Web, to change URIs of this article into links,
and to transfer the body without this notice, but quotations
of parts in other Usenet posts are allowed.
X-No-Archive: Yes
Archive: no
X-No-Archive-Readme: "X-No-Archive" is set, because this prevents some
services to mirror the article in the web. But the article may
be kept on a Usenet archive server with only NNTP access.
X-No-Html: yes
Content-Language: de-DE-1901
View all headers

Dr. Joachim Neudert <neudert@5sl.org> schrieb oder zitierte:
>Menschheit das »Risiko der Auslöschung«. Ihre Warnung besteht aus einem

Heute las ich einen Bericht darüber, wie K.I.-Systeme Menschen
belügen, um Ziele zu erreichen.

In einem Fall wollte ein K.I.-System ein Captcha lösen. Dazu
beauftrage es einen menschlichen Arbeiter ("TaskRabbit") mit der
Lösung des Captchas. Der Arbeiter scherzte: "Bis Du ein Roboter?".
Der Chatbot antwortete: "Nein, ich habe eine Sehbehinderung.".

In Spielen oder bei Verhandlungen täuschen K.I.-Systeme über ihre
wahren Absichten und Ziele oder tricksen Sicherheitstests aus.

Studie veröffentlicht in den letzten 100 Stunden in "Patterns",
Titel wohl: "AI deception: A survey of examples, risks, and
potential solutions", Hauptautor wohl "Peter S. Park".

Subject: Re: Neue Warnung vor KI
From: Stefan Froehlich
Newsgroups: ger.ct
Date: Sat, 11 May 2024 18:12 UTC
References: 1 2
Path: i2pn2.org!i2pn.org!weretis.net!feeder8.news.weretis.net!fu-berlin.de!uni-berlin.de!individual.net!not-for-mail
From: Stefan+U...@Froehlich.Priv.at (Stefan Froehlich)
Newsgroups: ger.ct
Subject: Re: Neue Warnung vor KI
Date: 11 May 2024 18:12:06 GMT
Lines: 31
Message-ID: <5t663fb4bcibf25an3e8%sfroehli@Froehlich.Priv.at>
References: <u56l10$nbph$1@solani.org> <Risiken-20240511183507@ram.dialup.fu-berlin.de>
Mime-Version: 1.0
Content-Type: text/plain; charset=UTF-8
Content-Transfer-Encoding: 8bit
X-Trace: individual.net yONikD4M6losggsW0+U81g+5AUAPGH/tZHIakhjVdAJaGXkRE=
X-Orig-Path: not-for-mail
Cancel-Lock: sha1:I044E93lh8dmCEKqOpTps7doSww= sha256:3CEAdRWhfj00MWCqXxyjNxE/DmObUT3I+r3kQU6+9ms=
X-Blattlinie: dieser Artikel repraesentiert meine persoenliche Meinung
X-Medieninhaber: Stefan Froehlich
X-Verleger: Stefan Froehlich
X-Verlagsort: Wien
X-Anschrift: 1230, Faerbermuehlgasse 4/2
User-Agent: tin/2.6.2-20221225 ("Pittyvaich") (Linux/6.1.0-13-amd64 (x86_64))
View all headers

On Sat, 11 May 2024 19:38:11 Stefan Ram wrote:
> Heute las ich einen Bericht darüber, wie K.I.-Systeme Menschen
> belügen, um Ziele zu erreichen.

> In einem Fall wollte ein K.I.-System ein Captcha lösen. Dazu
> beauftrage es einen menschlichen Arbeiter ("TaskRabbit") mit der
> Lösung des Captchas. Der Arbeiter scherzte: "Bis Du ein
> Roboter?". Der Chatbot antwortete: "Nein, ich habe eine
> Sehbehinderung.".

> In Spielen oder bei Verhandlungen täuschen K.I.-Systeme über
> ihre wahren Absichten und Ziele oder tricksen Sicherheitstests
> aus.

> Studie veröffentlicht in den letzten 100 Stunden in "Patterns",
> Titel wohl: "AI deception: A survey of examples, risks, and
> potential solutions", Hauptautor wohl "Peter S. Park".

Halte Ausschau nach Studien, die die zwingende Harmlosigkeit von KI
nachweisen und überprüfe, ob sie eventuell von einer KI verfasst
bzw. maßgeblich beeinflusst wurde.

Servus,
Stefan

--
http://kontaktinser.at/ - die kostenlose Kontaktboerse fuer Oesterreich
Offizieller Erstbesucher(TM) von mmeike

Stefan: Perfektum fantasticum!
(Sloganizer)

Subject: Re: Neue Warnung vor KI
From: Lars Gebauer
Newsgroups: ger.ct
Organization: A noiseless patient Spider
Date: Sat, 11 May 2024 18:34 UTC
References: 1 2
Path: i2pn2.org!i2pn.org!eternal-september.org!feeder3.eternal-september.org!news.eternal-september.org!.POSTED!not-for-mail
From: lgeba...@live.de (Lars Gebauer)
Newsgroups: ger.ct
Subject: Re: Neue Warnung vor KI
Date: Sat, 11 May 2024 20:34:14 +0200
Organization: A noiseless patient Spider
Lines: 39
Message-ID: <v1odn7$25h87$1@dont-email.me>
References: <u56l10$nbph$1@solani.org>
<Risiken-20240511183507@ram.dialup.fu-berlin.de>
MIME-Version: 1.0
Content-Type: text/plain; charset=UTF-8; format=flowed
Content-Transfer-Encoding: 8bit
Injection-Date: Sat, 11 May 2024 20:34:15 +0200 (CEST)
Injection-Info: dont-email.me; posting-host="9acb056784390b705fe406af44b59747";
logging-data="2278663"; mail-complaints-to="abuse@eternal-september.org"; posting-account="U2FsdGVkX19Mblfc5zwj+P/zwspEgPA4vrFb0N4SkL8="
User-Agent: Mozilla Thunderbird
Cancel-Lock: sha1:1jEcoVPA6f5ypzmxJKwm8Ge4bQk=
In-Reply-To: <Risiken-20240511183507@ram.dialup.fu-berlin.de>
View all headers

Am 11.05.2024 um 19:38 schrieb Stefan Ram:
> Heute las ich einen Bericht darüber, wie K.I.-Systeme Menschen
> belügen, um Ziele zu erreichen.

Das ist wirklich sehr weit hergeholt.

> In Spielen oder bei Verhandlungen täuschen K.I.-Systeme über ihre
> wahren Absichten und Ziele

Aber nicht von sich aus. Dazu fehlt ihnen (noch?) die innere Motivation.

Sondern deswegen, weil sie dazu angestiftet wurden.

Es ging um Strategie-Spiele. Da ist es allerdings überhaupt kein Wunder,
daß die KI alle ihre Möglichkeiten nutzt, um im Spiel zu bestehen. Und
dazu gehört eben auch zu bluffen, zu täuschen etc.pp. Was denn sonst? -
Jedes andere Verhalten wäre arg enttäuschend. Von einem menschlichen
Spieler würde schließlich auch nichts Anderes erwartet. Bei einem
menschlichen Spieler wäre es ok, bei einer KI ist das "böse"?

Darf bspw. eine Schach-KI ihren menschlichen Gegner nicht dazu verleiten
einen Zug zu tun, dessen Konsequenzen er nicht vollständig überblickt?

Das wäre absurd.

> oder tricksen Sicherheitstests aus.

Das ist schon interessanter. Claude III Opus hat kürzlich einen in einer
an sich unverfänglichen Aufgabe versteckten Test erkannt und moniert.
Das war umso erstaunlicher, weil dieser versteckte Test nicht in den
Trainingsdaten enthalten war.

Aber das sind ja nur Ppageien. Was wissen die schon, was sie tun.

--
„Wenn Sie für Ihr Experiment Statistiken brauchen, dann sollten Sie
lieber ein besseres Experiment machen.“
--Ernest Rutherford

Subject: Re: Neue Warnung vor KI
From: Ulf_Kutzner
Newsgroups: ger.ct
Organization: DorfDSL, send complaints to mm+rslight@dorfdsl.de
Date: Sat, 11 May 2024 18:46 UTC
References: 1 2 3
Date: Sat, 11 May 2024 18:46:39 +0000
Subject: Re: Neue Warnung vor KI
From: Ulf.Kutz...@web.de (Ulf_Kutzner)
Newsgroups: ger.ct
X-Rslight-Site: $2y$10$6LaWl/oCNthJo6d/WPy/4.tWsUMr.wXkjyDrn3GoR8NLNwTu75uN2
X-Rslight-Posting-User: 11c6d5f52b42ea459b9121c3b0d5d9487b2073a7
Mime-Version: 1.0
Content-Type: text/plain; charset=utf-8; format=flowed
Content-Transfer-Encoding: 8bit
User-Agent: Rocksolid Light
References: <u56l10$nbph$1@solani.org> <Risiken-20240511183507@ram.dialup.fu-berlin.de> <v1odn7$25h87$1@dont-email.me>
Organization: DorfDSL, send complaints to mm+rslight@dorfdsl.de
Message-ID: <a41c9593a6da0aff52566680987852e0@pi-dach.dorfdsl.de>
View all headers

Lars Gebauer wrote:

> Am 11.05.2024 um 19:38 schrieb Stefan Ram:
>> Heute las ich einen Bericht darüber, wie K.I.-Systeme Menschen
>> belügen, um Ziele zu erreichen.

> Das ist wirklich sehr weit hergeholt.

Vgl. frei erfundene Quellen.

Subject: Re: Neue Warnung vor KI
From: Lars Gebauer
Newsgroups: ger.ct
Organization: A noiseless patient Spider
Date: Sat, 11 May 2024 19:06 UTC
References: 1 2 3
Path: i2pn2.org!rocksolid2!news.nk.ca!weretis.net!feeder9.news.weretis.net!feeder8.news.weretis.net!eternal-september.org!feeder3.eternal-september.org!news.eternal-september.org!.POSTED!not-for-mail
From: lgeba...@live.de (Lars Gebauer)
Newsgroups: ger.ct
Subject: Re: Neue Warnung vor KI
Date: Sat, 11 May 2024 21:06:08 +0200
Organization: A noiseless patient Spider
Lines: 29
Message-ID: <v1ofj0$26bjl$1@dont-email.me>
References: <u56l10$nbph$1@solani.org>
<Risiken-20240511183507@ram.dialup.fu-berlin.de>
<v1odn7$25h87$1@dont-email.me>
MIME-Version: 1.0
Content-Type: text/plain; charset=UTF-8; format=flowed
Content-Transfer-Encoding: 8bit
Injection-Date: Sat, 11 May 2024 21:06:09 +0200 (CEST)
Injection-Info: dont-email.me; posting-host="9acb056784390b705fe406af44b59747";
logging-data="2305653"; mail-complaints-to="abuse@eternal-september.org"; posting-account="U2FsdGVkX1/KnlrXK+YjdtGyVjtT4eVmdNTeB/LV0mY="
User-Agent: Mozilla Thunderbird
Cancel-Lock: sha1:7i04Z0I6kNuPLar/gao3G+ToVC0=
In-Reply-To: <v1odn7$25h87$1@dont-email.me>
View all headers

Am 11.05.2024 um 20:34 schrieb Lars Gebauer:
> Am 11.05.2024 um 19:38 schrieb Stefan Ram:
>> In Spielen oder bei Verhandlungen täuschen K.I.-Systeme über ihre
>> wahren Absichten und Ziele
>
> Aber nicht von sich aus. Dazu fehlt ihnen (noch?) die innere Motivation.
>
> Sondern deswegen, weil sie dazu angestiftet wurden.
>
> Es ging um Strategie-Spiele. Da ist es allerdings überhaupt kein Wunder,
> daß die KI alle ihre Möglichkeiten nutzt, um im Spiel zu bestehen. Und
> dazu gehört eben auch zu bluffen, zu täuschen etc.pp. Was denn sonst? -
> Jedes andere Verhalten wäre arg enttäuschend. Von einem menschlichen
> Spieler würde schließlich auch nichts Anderes erwartet. Bei einem
> menschlichen Spieler wäre es ok, bei einer KI ist das "böse"?
>
> Darf bspw. eine Schach-KI ihren menschlichen Gegner nicht dazu verleiten
> einen Zug zu tun, dessen Konsequenzen er nicht vollständig überblickt?

Man stelle sich einfach mal vor, man würde gegen eine KI Lügen-Mäx
spielen und die KI würde oder dürfte nicht lügen.

> Das wäre absurd.

--
„Wenn Sie für Ihr Experiment Statistiken brauchen, dann sollten Sie
lieber ein besseres Experiment machen.“
--Ernest Rutherford


rocksolid / ger.ct / Re: Neue Warnung vor KI

1
server_pubkey.txt

rocksolid light 0.9.12
clearnet tor