El CTO de Emerson Collective no solo es el director ejecutivo de la empresa de IA conversacional SpeakEasy AI, sino que el ex ejecutivo de Twitter y Uber también fue el ex CTO del Comité Nacional Demócrata. E incluso Krikorian no está seguro de si el Congreso de EE. UU. podrá instituir medidas de protección en torno a la nueva tecnología.

“Todavía estamos muy lejos de poder entender los matices. Creo que solo hay una persona en la Cámara de Representantes en este momento. [Rep. Jay Obernolte] que tiene un título avanzado en inteligencia artificial”, dijo Krikorian en el último episodio de Digiday Podcast.

No obstante, Krikorian se inclina hacia el optimismo, no solo en el potencial del Congreso para regular la IA sino en el potencial de la IA en general. Después de todo, su podcast lanzado recientemente se llama “Technically Optimistic”. El programa debutó a fines de junio con una serie de cinco partes centrada en la IA y los matices del tema que podría resultar útil no solo para los miembros del Congreso sino para cualquiera que intente comprender las implicaciones de la tecnología para la sociedad.

“El mundo se divide de dos maneras cuando se trata de IA en estos días. hay el mundo [of] “Vamos a vivir en un futuro de ciencia ficción donde todo es milagroso”, y luego está el pesimismo. Y creo que hay mucho gris en el medio”, dijo Krikorian. “Sin embargo, creo que, a medida que las personas aprenden a comprender el gris, podemos llegar a un lugar en el que todos podamos ser optimistas”.

Aquí hay algunos aspectos destacados de la conversación, que han sido editados para mayor extensión y claridad.

El equilibrio de poder de la IA

En este momento, creo que, si habla en términos generales, no se están construyendo muchas barandas [around AI] en absoluto. Y creo que eso es parte del problema. Y parte de la razón por la que quiero que la gente se centre en esta zona gris. En este momento hay un cambio en el equilibrio de poder donde los tecnólogos o las personas que construyen estas tecnologías en realidad tienen muchas de las claves de la forma en que se ve nuestra sociedad.

La necesidad de transparencia de la IA

Cuando presento argumentos a legisladores, legisladores, miembros del Congreso, les digo que su función no es necesariamente decir que pueden o no pueden hacer lo siguiente. No se trata únicamente de mitigar los daños o poner un cuadro en torno a lo que debe o no debe hacer. Pero, en cambio, es como ¿cómo cambiamos los incentivos en estos desarrolladores para que no se centren en cómo construir la próxima función seductora, sino que también se centren en cómo explicamos cómo está tomando sus decisiones? Entonces, ¿cómo hacemos transparentes cuáles son las entradas y las salidas para que todos podamos ver si estamos de acuerdo con esto?

La realidad de la regulación de la IA

Tengo muchas preocupaciones sobre si el Congreso puede lograr algo o no. La mejor idea que escuché es: ¿Puede el Congreso establecer algún tipo de comisión separada similar a la FTC o la FCC que pueda contar con el personal adecuado, que luego podría asesorar y establecer algunas medidas de protección y hacer recomendaciones que el Congreso podría luego promulgar leyes? ¿de? Honestamente, dado el nivel de fluidez técnica en el Congreso, esa podría ser nuestra única oportunidad si realmente esperamos que el órgano de gobierno haga algo.

La urgencia de la regulación de la IA

De hecho, me preocupa que no podamos llegar a un lugar en el que siquiera pensemos en una regulación adecuada sobre la IA hasta que suceda algo malo. Trazaré un paralelo con el sistema financiero. Realmente no actuamos juntos hasta que el sistema financiero colapsó. Y lo que me asusta aún más es que en realidad ha habido algunos buenos ejemplos de IA que ya están causando un poco de estragos. Había esta imagen generativa de una explosión potencial frente al Pentágono, y literalmente movió el [stock] mercado, y eso no fue suficiente para levantar las cejas de la gente.

https://digiday.com/?p=510335