Some problems of the very intuitive evolutionary emergentist paradigm trying to explain consciousness from neurons

Some problems of the very intuitive evolutionary emergentist paradigm trying to explain consciousness from neurons, thanks to Andrés Gómez Emilsson and Chris Percy at Qualia Research Institute:

The “Slicing Problem” is a thought experiment that raises questions for substrate-neutral computational theories of consciousness, particularly, in functionalist approaches.

The thought experiment uses water-based logic gates to construct a computer in a way that permits cleanly slicing each gate and connection in half, creating two identical computers each instantiating the same computation. The slicing can be reversed and repeated via an on/off switch, without changing the amount of matter in the system.

The question is what do different computational theories of consciousness believe is happening to the number and nature of individual conscious units as this switch is toggled. Under a token interpretation, there are now two discrete conscious entities; under a type interpretation, there may remain only one.

Both interpretations lead to different implications depending on the adopted theoretical stance. Any route taken either allows mechanisms for “consciousness-multiplying exploits” or requires ambiguous boundaries between conscious entities, raising philosophical and ethical questions for theorists to consider.

Source:

https://www.researchgate.net/publication/365706040_The_Slicing_Problem_for_Computational_Theories_of_Consciousness

More info:

https://qri.org/

Only mammals and birds are sentient, according to Nick Humphrey

Only mammals and birds are sentient, according to neuroscientist Nick Humphrey’s theory of consciousness, recently explained in “Sentience: The invention of consciousness”.

In 2023, Nick Humphrey published his book Sentience: The invention of consciousness (S:TIOC). In this book he proposed a theory of consciousness that implies, he says, that only mammals and birds have any kind of internal awareness.

His theory of consciousness has a lot in common with the picture of consciousness is described in recent books by two other authors, neuroscientist Antonio Damasio and consciousness researcher Anil Seth. All three agree on the importance of feelings, or proprioception, as the evolutionary and experiential base of sentience. Damasio and Seth, if I recall correctly, each put a lot of emphasis on homeostasis as a driving evolutionary force. All three agree sentience evolved as an extension of our senses–touch, sight, hearing, and so on. But S:TIOC is a bolder book which not only describes what we know about the evolutionary base of consciousness but proposes a plausible theory coming as close as can be to describing what it is short of actually solving Chalmers’ Hard Problem.

Read more:
https://forum.effectivealtruism.org/posts/AvubGwD2xkCD4tGtd/only-mammals-and-birds-are-sentient-according-to

 

Kolmogorov theory of consciousness. An algorithmic model of consciousness

Characterizing consciousness is a profound scientific problem with pressing clinical and practical implications. Examples include disorders of consciousness, locked-in syndrome, conscious state in utero, in sleep and other states of consciousness, in non-human animals, and perhaps soon in exobiology [astrobiology] or in machines. Here, we address the phenomenon of structured experience from an information-theoretic perspective.

We start from the subjective view (“my brain and my conscious experience”):

1 “There is information and I am conscious.”

2 “Reality, as it relates to experience and phenomenal structure, is a model my brain has built and continues to develop based on input–output information.”

Source:

https://academic.oup.com/nc/article/2017/1/nix019/4470874

A conversation between Brian Tomasik and Luke Muehlhauser

Luke and Mr. Tomasik found that they agreed about the following:

  •  Physicalism and functionalism about consciousness.
  •  Specifically, Mr. Tomasik endorses “Type A” physicalism, as described in his
    article “Is There a Hard Problem of Consciousness?” Luke isn’t certain he
    endorses Type A physicalism as defined in that article, but he thinks his
    views are much closer to “Type A” physicalism than to “Type B” physicalism.
  •  Consciousness will likely turn out to be polymorphic, without a sharp dividing
    line between conscious and non-conscious systems, just like (say) the line
    between what does and doesn’t count as “face recognition software.”
  • Consciousness will likely vary along a great many dimensions, and Luke and
    Mr. Tomasik both suspect they would have different degrees of moral caring
    for different types of conscious systems, depending on how each particular
    system scores along each of these dimensions.

 

A core disagreement

In Luke’s view, a system needs to have certain features interacting in the right way in order to qualify as having non-zero consciousness and non-zero moral weight (if one assumes consciousness is necessary for moral patienthood).

In Mr. Tomasik’s view, various potential features (e.g. ability to do reinforcement learning or meta-cognition) contribute different amounts to a system’s degree of consciousness, because they increase that system’s fit with the “consciousness” concept, but all things have non-zero fit with the “consciousness” concept.

Luke suggested that this core disagreement stems from the principle described in Mr. Tomasik’s “Flavors of Computation are Flavors of Consciousness“:

It’s unsurprising that a type-A physicalist should attribute nonzero consciousness to all systems. After all, “consciousness” is a concept — a “cluster in thingspace” — and all points in thingspace are less than infinitely far away from the centroid of the “consciousness” cluster. By a similar argument, we might say that any system displays nonzero similarity to any concept (except maybe for strictly partitioned concepts that map onto the universe’s fundamental ontology, like the difference between matter vs. antimatter). Panpsychism on consciousness is just one particular example of that
principle.

Source

Can GPT3 or a later version of it experience suffering?

And if so, should we be continuing to develop it?

I have to admit that I don’t know much about how the system works, but I’m genuinely curious: how do we know that it doesn’t feel anything? I’m just concerned because I’m seeing more and more articles about its creation and the many amazing things it’s been able to do so far but none that tell us about the ethical implications of its creation or that reassure me that the fact that it exists is entirely not a bad thing. It seems to me that the system is now able to do many complex things and it’s worrying me that it might also (eventually) be able to experience something akin to suffering.

Read more

Se also: Is gpt-3 a step to sentience?

Against functionalism: why I think the Foundational Research Institute should rethink its approach, by Michael Edward Johnson

FRI believes in analytic functionalism, or what David Chalmers calls “Type-A materialism”. Essentially, what this means is there’s no ’theoretical essence’ to consciousness; rather, consciousness is the sum-total of the functional properties of our brains. Since ‘functional properties’ are rather vague, this means consciousness itself is rather vague, in the same way words like “life,” “justice,” and “virtue” are messy and vague.

And if consciousness is all these things, so too is suffering. Which means suffering is computational, yet also inherently fuzzy, and at least a bit arbitrary; a leaky high-level reification impossible to speak about accurately, since there’s no formal, objective “ground truth”.

Read more

Teorías de la sintiencia: una charla con Magnus Vinding

English version

Magnus Vinding es un filósofo centrado en reducir el sufrimiento. En su obra desarrolla temas como el altruismo eficaz, el antiespeciesismo, la ética centrada en el sufrimiento (sobre la que actualmente está escribiendo un libro) y cuestiones de identidad personal y ontología, como el individualismo abierto y el fisicalismo. Es licenciado en matemáticas y autor de los libros: Why We Should Go Vegan, Why “Happy Meat” Is Always Wrong, Speciesism: Why It Is Wrong and the Implications of Rejecting It, Reflections on Intelligence, You Are Them, y Effective Altruism: How Can We Best Help Others?

Manu Herrán: Comencemos por el principio. Usaré la palabra sintiencia para las experiencias de sufrimiento y disfrute, y conciencia para las experiencias subjetivas en general. No solo dolor y placer sino, por ejemplo, percibir. ¿Coincide con tu terminología?

Magnus Vinding: Sí.

Manu Herrán: Algunos investigadores consideran que, en general, los animales no humanos tienen falta de conciencia. ¿Implica que merecen menos (o incluso ninguna) consideración moral?

Magnus Vinding: La palabra “conciencia” a veces es entendida como “autoconocimiento”, que uno puede buscar operacionalizar y medir de varias maneras, pero una forma obvia es comprobar si un individuo puede pasar la prueba del espejo. Muchos animales no humanos son evidentemente conscientes en este sentido. Pero más allá de eso, es ciertamente posible, digamos, que un invertebrado o un niño humano en desarrollo sienta dolor sin tener una idea muy clara de lo que está sucediendo, sin tener un modelo de uno mismo. Pero eso no disminuye la relevancia moral de ese sufrimiento, cuando existe. En mi opinión, la sintiencia es, en última instancia, lo que importa, o al menos lo que más importa.

Manu Herrán: ¿La sintiencia es lo único que importa?

Magnus Vinding: Existe desacuerdo entre los filósofos en este asunto. Pero al menos parece que la mayoría coincide en que, en la medida en que algo pueda importar, la sintiencia se encuentra por lo menos en el conjunto de las cosas que importan.

Manu Herrán: Otras personas consideran la belleza, la complejidad o la vida. O el conocimiento.

Magnus Vinding: Se puede argumentar que el conocimiento, especialmente si se interpreta de manera amplia de forma que incluya valores epistémicos, tiene un estatus especial. Visto en perspectiva, podemos pensar en términos de valores epistémicos por un lado (por ejemplo, consistencia, sobriedad, “parecer razonable / plausible”, etc.) y valores morales por el otro (por ejemplo, reducir el sufrimiento, vivir en armonía, no mentir, etc.).

Me parece que la relación entre estas dos clases de valores es interesante. Por ejemplo, debemos depender de ciertos valores epistémicos para alcanzar cualquier conjunto de valores morales, sin embargo, a su vez, podemos decidir, en función de nuestros valores morales, cambiar ciertos valores epistémicos que inicialmente teníamos, por ejemplo, si pensáramos que un exceso de curiosidad y afán de exploración podría causar más sufrimiento en el futuro. Y esto podría acarrear el coste de cerrarnos a cierto conocimiento que en realidad podría cambiar aún más nuestros valores morales. El problema de cómo equilibrar lo mejor posible estos valores entre sí es complejo; después de todo, ¿qué valores deberían soportar este análisis? Esto es filosofía profunda.

En relación con el asunto de si la belleza, la complejidad o la vida son buenas (o malas), mi opinión es que solo tienen valor instrumental. Es decir, son buenas o malas en la medida en que haya alguien cuya experiencia se vea afectada de manera positiva o negativa por ellas.

Lo mismo puede decirse sobre el conocimiento, si ignoramos el tema más fundamental mencionado anteriormente: en mi opinión, respecto de la ética, el conocimiento es bueno en la medida en que puede ayudarnos a evitar el sufrimiento extremo (lo cual no quiere decir que debamos pensar necesariamente acerca del conocimiento en tales términos instrumentales; eso puede no ser útil en la mayoría de los casos).

Manu Herrán: Estás en contacto con los principales investigadores y organizaciones que tienen como objetivo reducir el sufrimiento. ¿Dirías que compartís un entendimiento común de la sintiencia, de qué se trata y de dónde proviene?

Magnus Vinding: En algunos aspectos sí, pero no en otros. Llevaría mucho tiempo explicarlo todo correctamente, pero la distinción principal es entre realistas y no realistas sobre la conciencia.

Los no realistas, o eliminativistas, sostienen que la conciencia realmente no existe. Brian Tomasik ha defendido esta opinión, y parece haber inspirado a muchas personas preocupadas por reducir el sufrimiento (Brian a su vez se ha inspirado en Daniel Dennett y Eliezer Yudkowsky).

El eliminativismo es también la posición que tentativamente suscribe el Sentience Institute. Digo “tentativamente” porque el Sentience Institute no parece sostener que la conciencia no exista. Por ejemplo, Jacy Reese escribe: “Estoy totalmente de acuerdo con el ‘Pienso, luego existo’ y con la idea de que existe un 100% de confianza en tu propia experiencia en primera persona”. El sentido en el que Jacy niega la existencia de la conciencia es, por lo que puedo decir, más bien en el sentido de que la conciencia no es una categoría nítida, así como, digamos, “música” no es una categoría nítida y bien demarcada. Sin embargo, esto, diría yo, no es negar la existencia de la conciencia en ningún sentido sustantivo; después de todo, la mayoría de los realistas estarían de acuerdo con la afirmación de que la conciencia, en el sentido de una mente compuesta compleja, no es una categoría claramente delineada.

He intentado, en otro lugar, establecer una analogía con el sonido y la música: precisamente porque “música” es una categoría difusa, y es posible que no podamos dar una respuesta clara a si una colección de sonidos cuenta como música o no. Esto no significa que no haya verdades sobre la naturaleza de esta colección de sonidos (su volumen, tono, carácter, etc.). Lo mismo, diría, se puede aplicar a la conciencia: solo porque no podamos estar de acuerdo acerca de lo que cuenta como una mente compuesta (que a menudo es lo que el término “conciencia” connota) no significa que no haya verdades sobre el estado fenoménico de una mente-cerebro dada (en términos de intensidad, su contenido, su carácter, etc.).

A diferencia de los no realistas, existen realistas explícitos sobre la conciencia. Uno de ellos es David Pearce, quien ve la “conciencia” y “lo físico” como el mismo fenómeno bajo diferentes descripciones (he tratado de dar una explicación simple de su punto de vista aquí). Pearce ha presentado una atrevida hipótesis sobre la conciencia en términos físicos concretos que uno puede encontrar aquí.

Entro los realistas también se encuentran Mike Johnson y Andrés Gómez Emilsson co-fundadores del Qualia Research Institute, en el que exploran las firmas físicas de la conciencia desde una posición algo más agnóstica que la de Pearce (en cuanto a qué podrían ser dichas firmas físicas en última instancia).

Más allá de eso, hay que hacer una distinción entre las explicaciones de la conciencia funcionalistas y no funcionalistas (tal vez podría llamarlos “concretistas”). Brian Tomasik es un funcionalista, mientras que alguien como Mike Johnson no lo es; solía serlo, pero cambió de opinión y escribió lo siguiente, en mi opinión, más bien una dura crítica al funcionalismo. Pearce a veces se llama a sí mismo “micro-funcionalista”, lo que significa que si hiciéramos una copia de una mente-cerebro hasta el más fino nivel de detalle “micro-físico”, en un sentido concreto más que abstracto, entonces tendrá las mismas propiedades fenomenológicas que el original. Pero no de otra manera, y por lo tanto no es funcionalista en el sentido tradicional.

Estas opiniones, a su vez, tienen implicaciones muy diferentes para lo que es el sufrimiento en particular y lo que podemos hacer al respecto. Por ejemplo, David Pearce ve el sufrimiento como un fenómeno concreto que probablemente entenderemos con gran detalle y finalmente eliminaremos, mientras que Brian Tomasik no ve el sufrimiento como algo que se pueda entender o eliminar de manera nítida; En su opinión, el sufrimiento es, al menos en cierto sentido, más inherente a la realidad.

Manu Herrán: Esta es una diferencia muy importante, con implicaciones muy significativas en la asignación de recursos en un posible proyecto para reducir el sufrimiento. ¿No es así? Estoy pensando, por ejemplo, en el proyecto de The Hedonistic Imperative.

Magnus Vinding: Sí, aunque explorar el alcance total de las diferencias está más allá del alcance de esta conversación. Sin embargo, también vale la pena señalar que hay puntos significativos de convergencia, incluido que los límites que establecemos en relación con los cuales los seres pueden sufrir son bastante confusos desde nuestro punto de vista actual. Aunque desde una perspectiva realista son difusos debido a nuestra ignorancia; mientras que en la visión no realista son difusos más o menos por definición. Por lo tanto, se puede decir que el realismo implica más investigación sobre esta cuestión que el no realismo (lo que no quiere decir que necesariamente no se encuentren ciertas respuestas asumiendo el realismo).

Más allá de eso, vale la pena señalar que, independientemente de sus puntos de vista sobre la conciencia, prácticamente todos los que participan en el movimiento Altruismo Eficaz y tratan de reducir el sufrimiento están de acuerdo en que debemos tratar de explorar los riesgos futuros con una mente abierta; que debemos tratar de relacionarnos con otras personas de manera amistosa y cooperativa; que deberíamos expandir el círculo moral; que debemos promover la compasión y un pensamiento consecuencialista prudente, etc.

Manu Herrán: ¿Cómo puede Brian conciliar el eliminativismo y el funcionalismo? Quiero decir, si entiendo correctamente, Brian cree en el eliminativismo y en el funcionalismo al mismo tiempo.

Magnus Vinding: Tendrías que preguntarle, supongo. Pero sospecho que diría que el eliminativismo es cierto objetivamente, mientras que (su) funcionalismo es la forma en la que elige, subjetivamente, de definir la conciencia y la sintiencia.

Manu Herrán: ¿Crees que Brian y David tienen cada uno una fuerte convicción acerca de sus propios (y diferentes) entendimientos sobre la sintiencia o por el contrario reconocen honestamente que otras teorías también pueden ser ciertas?

Magnus Vinding: Sé que a David le cuesta entender la opinión de Brian, por ejemplo, le cuesta incluso entender lo que significa. Brian, que yo sepa, en su mayoría retiene cierta incertidumbre por motivos de tipo “Aumann. Pero hablando en términos más generales, creo que ambos tienden a reconocer que todos podemos estar muy equivocados acerca de la naturaleza de la realidad, y que nuestros conceptos humanos pueden en última instancia hacer un mal trabajo cuando se emplean para tratar de capturar lo que realmente está sucediendo.

Manu Herrán: ¿Cuál es tu punto o puntos de vista preferidos sobre la conciencia? Quiero decir, en el sentido de las “hipótesis más probables”.

Magnus Vinding: Mi punto de vista es fisicalista y no funcionalista en el sentido macro; únicamente en el sentido micro / “concretista”. En general, creo que David Pearce tiene razón en que, tal como Mike Johnson resume la opinión de David: “la conciencia es ‘ontológicamente unitaria’, por lo que solo una propiedad física que implique unidad ontológica (como la coherencia cuántica) podría instanciar físicamente la conciencia” (Principia Qualia, p. 73).

Es decir, me inclino hacia la idea de que mi mente consciente actual es una “cosa” física, real y unitaria. Después de todo, si la experiencia no fuera físicamente unitaria de esta manera, si pudiera emerger de algo físicamente desconectado por una pequeña distancia, ¿por qué no podría ser capaz de emerger de algo separado por una gran distancia? ¿Por qué el estado físico que media un aspecto particular de mi experiencia  — digamos, percepciones — no podría estar situado en otro país, o de hecho en otro planeta, lejos de los estados físicos que median otros aspectos, como los sonidos y las emociones? (Trazo una analogía similar con computadoras hechas con bolas de billar aquí). Creo que debe haber alguna conexión e integración en términos físicos, y sospecho que las intuiciones de la mayoría de las personas estarían de acuerdo.

Y la pregunta relevante es entonces en qué sistemas se obtiene dicha conexión / integración. ¿Podría, por ejemplo, obtenerse algún día en sistemas como las computadoras actuales? Lo dudo, y creo que en nuestros círculos muchos tratan la respuesta afirmativa a esta pregunta como una conclusión inevitable, y consideran que las dudas al respecto equivalen a sobrenaturalismo y antropocentrismo. Creo que es una equivocación. Las computadoras no han sido diseñadas para reunir constantemente gran cantidad de información sensorial de su entorno para su propia supervivencia. Los cerebros biológicos en cambio, sí. Esta es una diferencia bastante significativa. Y decir que dos modelos altamente abstractos de sistemas físicos diferentes son, en cierto sentido, isomórficos (digamos, algún modelo abstracto de computador personal, y el de un cerebro animal, respectivamente) de ninguna manera implica asumir que vayan a compartir todas las propiedades relevantes que tienen estos sistemas físicos.

Manu Herrán: ¿Tu fisicalismo es el mismo que el de David Pearce?

Magnus Vinding: En cierto sentido. Sin embargo, por lo que puedo decir, soy mucho más agnóstico acerca de la naturaleza de la conciencia en términos físicos. Pero a nivel básico, sigo el pensamiento de Pearce, y de hecho me ha inspirado mucho. Es decir, como Pearce, tengo una visión monista según la cual solo hay un mundo conforme a diferentes descripciones.

Esta visión puede parecer contraintuitiva, pero creo que la analogía que dibujé anteriormente en relación con el sonido en general y la música en particular puede ayudar a disolver parte de nuestra confusión y hacerla más intuitiva. El problema es que tenemos esta palabra, conciencia, que cubre demasiado. Se requiere cierto refinamiento léxico (ver el enlace anterior para más detalles).

Otro punto de confusión es que combinamos epistemología y ontología; en cierto sentido, confundimos nuestros modelos físicos de realidad con la realidad misma, y no nos damos cuenta cuando hablamos de reducción epistemológica versus reducción ontológica. Estas ideas las desarrollo en un artículo que he publicado recientemente, titulado Physics Is Also Qualia.

Manu Herrán: Las diferentes teorías suenan complejas, pero tus explicaciones las aclaran mucho. ¿Podemos resumir que Brian, David y tu tenéis puntos de vista diferentes sobre la sintiencia?

Magnus Vinding: Sí, creo que es bastante correcto decirlo así. Aunque la diferencia entre David y yo no es tan grande; estamos cerca el uno del otro en relación con Brian (aunque, de alguna manera, Brian también está cerca, como cuando describe su punto de vista como pampsiquista). La principal diferencia entre la opinión de David y la mía es, como se mencionó, que soy más agnóstico con respecto a los “detalles” físicos. Además, a diferencia de David, no creo haber dicho realmente nada original; Las cosas que he escrito sobre la conciencia en su mayoría aclaran y defienden aspectos de la visión de David.

Manu Herrán: ¿Crees que podremos vencer el sufrimiento?

Magnus Vinding: Daré una respuesta funcional que pueda ser útil para los agentes morales: creo que los agentes morales orientados a reducir el sufrimiento siempre deben emplear una gran parte de sus recursos en explorar cómo pueden reducir el sufrimiento futuro de la mejor manera, y esto seguiría siendo cierto incluso cuando el sufrimiento esté totalmente bajo control.

Además, el asunto de si el sufrimiento puede ser abolido definitivamente y para siempre dependerá de la visión que uno tenga de la naturaleza del tiempo y del universo en general, por lo que no es fácil dar una respuesta concisa.

Más allá de eso, también diría que centrarse en derrotar el sufrimiento como objetivo personal puede ser realmente perjudicial. Creo que es mejor centrarse en reducir el sufrimiento esperado tanto como sea posible, pero dentro de los límites de unas restricciones coyunturales razonables, lo cual en el mejor escenario será también parte constituyente de la “derrota del sufrimiento” global de todos modos.

Manu Herrán: Gracias Magnus. Ha sido un placer tener esta charla.

Magnus Vinding: Lo mismo digo. Buena suerte con tus proyectos.

 

On theories of sentience: a talk with Magnus Vinding

Magnus Vinding is a philosopher focused on reducing suffering. In his works, he has covered topics such as effective altruism, anti-speciesism, suffering-focused ethics (about which he was writing a book at the time of this interview), and issues of personal identity and ontology, such as open individualism and physicalism. He has a degree in mathematics and is the author of the books: Why We Should Go Vegan, Why “Happy Meat” Is Always Wrong, Speciesism: Why It Is Wrong and the Implications of Rejecting It, Reflections on Intelligence, You Are Them, and Effective Altruism: How Can We Best Help Others?

[Puedes leer esta entrevista en español aquí]

Manu Herrán: Let’s start with the very beginning. I’ll use the word sentience for experiences of suffering and enjoyment, and consciousness for subjective experiences in general. Not only pain and pleasure but, for instance, to perceive. Does it match your terminology?

Magnus Vinding: Yes.

Manu Herrán: Some researchers consider that in general non human animals have a lack of consciousness. Does it implies that they deserve less (or even none) moral consideration?

Magnus Vinding: “Consciousness” is sometimes understood as “self-knowledge”, which one may seek to operationalize and measure in various ways, yet one obvious way is to ask whether an individual is able to pass the mirror test. Many non-human animals are evidently conscious in this sense. But beyond that, it’s certainly possible for, let’s say, an invertebrate or a developing human child to feel pain without a very clear idea of what’s happening, without having any self-model. But that doesn’t diminish the moral relevance of the suffering itself, if it exists. Sentience, I submit, is ultimately what matters, or at any rate what matters most.

Manu Herrán: Sentience is the only thing that matters?

Magnus Vinding: Philosophers disagree about this. Though it seems most do agree that, to the extent anything matters, sentience is at least among what matters.

Manu Herrán: Other people consider beauty, complexity or life. Or knowledge.

Magnus Vinding: One can argue that knowledge, especially if construed broadly such that it includes epistemic values, has a special status. If we zoom out a bit, we may think in terms of epistemic values on the one hand (e.g. consistency, parsimony, “seeming reasonable/plausible”, etc.) and moral values on the other (e.g. reducing suffering, living kindly, never lying, etc.).

The relationship between these two classes of values is interesting, I think. For example, we must depend on certain epistemic values to reach any set of moral values, yet we may then in turn decide, based on our moral values, to change certain epistemic values we initially held, such as if we think excess curiosity and exploration might cause more suffering in the future. And this might have a cost of closing off certain knowledge that might actually change our moral values further. The question of how to best balance such values against each other is a deep one; after all, which values should one rest on here? This is deep philosophy.

In relation to the notion that beauty, complexity or life are good (or bad for that matter), my own view is that they only have instrumental value. That is, they are good or bad to the extent there is someone whose experience is impacted positively of negatively by them.

The same can be said about knowledge, if we disregard the more fundamental issue mentioned above: on my view of ethics, knowledge is good to the extent it can help us avoid extreme suffering (which is not to say we should necessarily think about knowledge in such instrumental terms; that may not be useful in most cases).

Manu Herrán: You are in contact with the main researchers and organizations that aim to reduce suffering. Would you say that you share a common understanding of sentience, what it is, and where it comes from?

Magnus Vinding: In some aspects yes, but not in others. It would take a very long time to explain it all properly, but the main distinction is that between realists and non-realists about consciousness.

Non-realists, or eliminativists, hold that consciousness does not really exist. This view has been defended by Brian Tomasik, and it seems to have inspired many people concerned about reducing suffering (Brian has in turn been inspired by Daniel Dennett and Eliezer Yudkowsky).

Eliminativism is also the view Sentience Institute tentatively subscribes to, though I say tentatively because Sentience Institute does not seem to actually hold that consciousness does not exist — e.g. Jacy Reese writes: “I am fully on board with, ‘I think, therefore I am,’ and the notion that you can have 100% confidence in your own first-person experience.” The sense in which Jacy denies the existence of consciousness is thus, as far as I can tell, more in the sense that consciousness is not a crisp category, just as, say, “music” is not a crisp, well-demarcated category. Yet this, I would argue, is not to deny the existence of consciousness in any substantive sense; after all, most realists would agree with the claim that consciousness — in the sense of a complex composite mind — is not a clearly delineated category.

I have tried, elsewhere, to draw an analogy to sound and music: just because “music” is a fuzzy category, and we may not be able to give a clear answer to whether a collection of sounds counts as music or not, this does not mean there are no truths about the nature of this collection of sounds (their volume, pitch, character, etc.). The same, I would argue, can be applied to consciousness: just because we may not be able to agree on what counts as a composite mind (which is often what the term “consciousness” connotes) does not mean there are no truths about the phenomenal state of a given mind-brain (in terms of intensity, its content, its character, etc.).

In contrast to the non-realists, you have explicit realists about consciousness. One of these is David Pearce, who views “consciousness” and “the physical” as one and the same phenomenon under different descriptions (I have tried to give a simple explanation of his view here). Pearce has put forth a daring hypothesis about consciousness in concrete physical terms which one can find here.

Other realists include Mike Johnson and Andrés Gómez Emilsson who have co-founded the Qualia Research Institute in order to explore the physical signatures of consciousness from a somewhat more agnostic position than Pearce’s (in terms of what the physical signatures might ultimately be).

Beyond that, there is a distinction to be drawn between functionalist and non-functionalist (or one may perhaps call them “concretist”) accounts of consciousness. Brian Tomasik is a functionalist, whereas someone like Mike Johnson is not — he used to be, yet he changed his mind and has written the following, in my mind, rather strong critique of functionalism. Pearce sometimes calls himself a “micro-functionalist”, meaning that if a mind-brain is reproduced down to the level of the finest “micro-physical” detail, in a concrete rather than an abstract sense, then it will have the same phenomenal properties as the original. But not otherwise, and hence he is not a functionalist in the traditional sense.

These views, in turn, have very different implications for what suffering is in particular and what we can do about it. For instance, David Pearce views suffering as a concrete phenomenon we will likely come to understand in great detail and ultimately phase out, whereas Brian Tomasik does not see suffering as something that can be crisply understood or phased out; on his view, suffering is, at least in one sense, more inherent to reality.

Manu Herrán: This is a very important difference, with very significant implications in the allocation of resources in a possible project to reduce suffering. Isn’t it? I’m thinking, for example, on the project of The Hedonistic Imperative.

Magnus Vinding: Yes, though exploring the full extent of the differences is beyond the scope of this conversation. It is also worth pointing out, however, that there are significant points of convergence, including that the boundaries we draw in relation to which beings can suffer are quite fuzzy from our current vantage point. Though from a realist perspective, they are fuzzy due to our ignorance, whereas they are fuzzy more or less by definition on the non-realist view. Thus, realism arguably implies more research on this question than does non-realism (which is not to say that one will necessarily ever find certain answers given realism).

Beyond that, it is worth noting that, regardless of their views of consciousness, people in Effective Altruism who try to reduce suffering pretty much all agree that we should seek to explore future risks with an open mind; that we should seek to engage with other people in friendly, cooperative ways; that we should expand the moral circle; that we should promote compassion and wise consequentialist thinking, etc.

Manu Herrán: How can Brian reconcile eliminativism and functionalism? I mean, if I understand correctly, Brian believes in eliminativism and functionalism at the same time.

Magnus Vinding: You would have to ask him, I guess. But I suspect he would say eliminativism is true objectively whereas (his) functionalism is the way he chooses, subjectively, to define consciousness and sentience.

Manu Herrán: Do you think that Brian and David have each just a single strong belief about their own (different) understandings on sentience, or do they honestly recognize that other theories may be true as well?

Magnus Vinding: I know David struggles to understand Brian’s view, i.e. to understand what it even means. Brian, to my knowledge, mostly retains some uncertainty for Aumann reasons. But speaking more generally, I think both of them tend to acknowledge that we may well all be very wrong about the nature of reality, and that our human concepts may ultimately do a poor job of capturing what is really going on.

Manu Herrán: Which is your preferred view or views on consciousness? I mean, in the sense of “more probable hypothesis”.

Magnus Vinding: My view is physicalist and not functionalist in the macro sense, but only in the micro/”concretist” sense. In general, I think David Pearce is right that, as Mike Johnson sums up David’s view: “consciousness is ‘ontologically unitary’, and so only a physical property that implies ontological unity (such as quantum coherence) could physically instantiate consciousness.” (Principia Qualia, p. 73).

That is, I lean toward the view that my present conscious mind is an actual, unitary physical “thing”. After all, if experience is not physically unitary in this way, if it can emerge from something physically disconnected by a small distance, then why should it not be able to emerge from something separated by a large distance? Why should the physical state that mediates one particular aspect of my experience — say, sights — not be situated in another country, or indeed on another planet, from the physical states that mediate other aspects, such as sounds and emotions? (I draw a similar analogy to computers made of billard balls here). There must, I think, be some connection and integration in physical terms, and I suspect most people’s intuitions would agree.

And the relevant question is then in which systems such connection/integration obtains. Could it, for instance, ever obtain in systems such as present-day computers? I doubt it, and I think too many in our circles treat a positive answer to this question as a foregone conclusion, and consider doubts about it tantamount to supernaturalism and anthropocentrism. I just think this is wrong. Computers have not been designed to bring together a lot of sensory-information from their environments to act on for their survival, moment-to-moment. Biological brains have. This is a pretty significant difference. And saying that two highly abstract models of two different physical systems are in some sense isomorphic (say, some abstract model of a PC and of a brain respectively) in no way implies that every relevant property these physical systems have will be shared.

Manu Herrán: Is your physicalist view the same as David Pearce’s?

Magnus Vinding: In some ways. Yet as far as I can tell, I am much more agnostic about the nature of consciousness in physical terms. But at the level of the basics, I follow Pearce, and have indeed been greatly inspired by him. That is, like Pearce, I hold a monist view according to which there is just one world conforming to different descriptions.

This view may seem counter-intuitive, yet I think the analogy I drew above in relation to sound in general and music in particular can actually help dissolve some of our confusion and render it more intuitive. The problem is that we have this one word, consciousness, which covers far too much. Some vocabular refinement is called for (see the previous link for elaboration).

Another point of confusion is that we conflate epistemology and ontology — in a sense, we confuse our physical models of reality for reality itself, and we fail to realize when we speak about epistemological reduction versus ontological reduction, something I say more about in a recent post called Physics Is Also Qualia.

Manu Herrán: All the different theories sound complex, but your explanations are clarifying them a lot. Can we summarize that Brian, David and you have different views about sentience?

Magnus Vinding: Yes, that is quite safe to say. Although the difference between David and myself is not so large; we are close to each other relative to Brian (although, in some ways, Brian is also close, such as when he describes his view as a panpsychist view). The main difference between David’s view and my own is, as mentioned, that I am more agnostic concerning the physical “details”. Also, unlike David, I don’t think I have really said anything original; the things I have written about consciousness mostly clarify and defend aspects of David’s view.

Manu Herrán: Do you think we will be able to defeat suffering?

Magnus Vinding: I will give a functional answer that is useful for moral agents: I think moral agents aiming to reduce suffering should always spend a large fraction of their resources exploring how they can best reduce suffering in expectation, and this would be true even if suffering had been abolished.

Also, whether suffering can be abolished ultimately depends on one’s view of the nature of time and the universe at large, so it is not easy to give a straightforward answer.

Beyond that, I would also say that focusing on defeating suffering as one’s goal may actually be harmful. It is better, I think, to focus on reducing the most suffering in expectation (within the bounds of reasonable side-constraints), which in the best case will entail the “defeat of suffering” anyway.

Manu Herrán: Thanks Magnus. It has been a pleasure to have this talk.

Magnus Vinding: I can say the same thing. Good luck with your projects.