On voit donc bien de quoi il s'agit. Comme les autres ouvrages de cette remarquable série des guides de lecture de Folio-SF (“Passeport pour les étoiles” de F. Valéry, Cartographie du merveilleux, d'A.F. Ruaud, Atlas des brumes et des ombres, de P. Marcel) il s'agit en effet d'une présentation d'une centaine de livres considérés comme représentatifs de la thématique abordée, cette présentation s'appuyant sur une longue introduction critique.
Disons tout de suite que si j'ai été plus qu'intéressé par le panorama fourni par FB, j'ai été nettement moins convaincu par ses arguments, et qu'il m'est alors venu une hypothèse alternative.

Le panorama

Donc, cent livres (101, ai-je lu je ne sais plus où, mais je n'ai pas vérifié), classés par ordre alphabétique d'auteurs (avec deux très utiles index, d'auteurs et de titres cités). Le tout sur plus de 175 pages, près de la moitié du livre. C'est dire qu'il ne s'agit pas de simples notules, mais bien d'analyses approfondies.
Pour donner une idée, cela va de La Femme des sables d'Abé Kôbô aux Nouvelles Orientales de Marguerite Yourcenar, en passant par Le Passe-muraille, de Marcel Aymé, Orbitor de Mircea Cartarescu, Des Milliards de tapis de cheveux d'Eschbach ou Je suis le gardien du phare d'Éric Faye.
Le mérite principal de cette liste est de remettre des œuvres relevant de "l'imaginaire" dans la perspective générale de la littérature : l'histoire de la SF, par exemple, n'est plus artificiellement séparée de l'histoire de la littérature récente, et inversement, celle-ci intègre de façon cohérente l'évolution d'un de ses rameaux les plus spécifiques. En l'occurrence, d'ailleurs, l'ironie est que FB procède ainsi à un mouvement qui est à l'inverse de celui qu'il veut déceler dans sa thématique de la "transfiction", celui de la transgression, la logique étant au contraire ici celle d'une réintégration, d'une "rétrogression". Mais c'est tant mieux... Et l'on se précipite chez son libraire pour y acquérir des trésors qu'on ignorait. Rien que pour cela, mille mercis à Francis Berthelot.
Bien sûr, chacun va regretter l'absence de tel ou tel roman qu'il aurait aimé retrouver dans cette liste (pour moi, par exemple, Un roi sans divertissement de Giono, Histoires naturelles de Primo Levi, ou Fermata ("Le point d'orgue") de Nicholson Baker), et c'est normal. Mais, au fond, en se livrant à cet exercice très subjectif, on en vient petit à petit à se demander sur quel critère on doit s'appuyer pour proposer un quelconque ajout. Car les raisons avancées pour qualifier de "transfictions" tel ou tel ouvrage varient presque à l'infini, et chaque oeuvre devient un cas particulier. On finit par se dire que la moitié au moins de la littérature mondiale de fiction devrait figurer dans cette liste... Et il m'est souvent arrivé de me demander, devant un ouvrage cité par Francis Berthelot, Fahrenheit 451, par exemple, ou Malicroix, ou Des fleurs pour Algernon, en quoi il était plus "transgressif", donc transfictionnel, que bien d'autres qu'il ne cite pas... L'argumentaire théorique qui ouvre le livre va-t-il nous aider ?

L'argumentaire

Pas vraiment... Déjà, on a du mal à suivre la manière dont Berthelot définit les transgressions qui, selon lui, fondent les transfictions. Il en donne plusieurs définitions, successives, et les exemples qui en sont donnés plus loin dans le descriptif historique et géographique, puis dans le panorama compliquent parfois, je l'ai dit, le débat.
La première page (p. 13) de l'introduction pose déjà de redoutables problèmes : elle commence par distinguer la "littérature générale" (ce terme vide de sens ne cesse de m'irriter) et "les littératures de l'imaginaire", souvent, dit-il, "regroupées sous le label plus large de SF", "regroupement" qu'il doit bien être le seul à mettre en oeuvre ! Il ajoute des critères commerciaux, les seuls ayant quelqu'objectivité.
FB se demande ensuite quelle identité offrir aux "fictions qui se situent sur la frontière", car "ces oeuvres ont pris un tel essor au cours du XX^e siècle qu'il devient difficile de nier leur existence". Il me semble que ce sont surtout les fictions "de l'imaginaire" qui ont ainsi "explosé", au moins quantitativement (ambiguïté du terme "essor" ?). Mais FB n'a d'yeux que pour ses transfictions, qui, selon lui "ont plus de points communs entre elles qu'avec les oeuvres emblématiques du continent auquel on les assigne". De là à constituer un nouveau genre, il n'y a qu'un pas. J'y reviendrai.
La distinction d'origine est reprise de manière plus développée et, à mon sens, plus correcte (p. 15), entre les littératures de la réalité (formulation bien préférable à "littérature générale") et les différentes thématiques de l'imaginaire (merveilleux, fantastique, science-fiction). FB distingue alors deux mouvements : d'une part celui des "auteurs de littérature générale qui rejettent les limites du réalisme", d'autre part celui des "auteurs de l'imaginaire" qui se livrent à une activité très à la mode ces temps-ci, que l'on retrouve tout au long de l'ouvrage (à commencer, voir plus haut, par la 4e de couv'), et qui est un cliché obligé de la critique actuelle dans le domaine qui nous occupe : ils "brisent les conventions des genres" (pp. 16, 73), leurs "codes" (p. 23), "transgressent les limites du genre" (p. 42), "les règles du domaine auquel on les rattache" (p. 19), s'éloignent "des conventions du genre" (p. 59), les "troublent" (p. 74.), les "dynamitent" (p. 227), Pinget "subvertit" le principe de base du roman picaresque (p. 272), Silverberg est "loin de toute convention de genre" (p. 287), j'en passe, sans que ces codes, ces conventions, ces principes aient jamais été bien clairement définis, et alors qu'il est dit et répété qu'ils sont historiquement mouvants(1)...
En tout cas, on voit que ces deux mouvements sont de nature fort différente, et que la situation n'est pas symétrique : du côté de la littérature générale, on refuse le réalisme (mais on devrait alors se retrouver tout simplement dans l'autre camp : pourquoi non ?) ; en face, on cherche à s'échapper des sous-genres de l'imaginaire (mais on devrait rester dans sa mouvance générale : pourquoi non, là aussi ?). Tout cela reste pour le moins obscur, d'autant qu'une autre transgression, sur le plan formel celle-ci, est citée çà et là (transgression des "lois du récit", à mon sens d'une toute autre nature), sans que son statut et son rôle, ni son lien avec les transgressions précédentes, soient plus clairs.

Bref, on saisit mal ce que FB entend par transfiction. Pour lui, une transfiction s'appuie toujours sur une transgression. L'ennui, c'est que les définitions et les exemples qu'il en donne sont multiples et parfois contradictoires, se situant souvent à des niveaux fort différents.
De plus, bien de ces exemples vont à l'encontre de ces principes généraux, par exemple en introduisant de nouveaux types de transgressions, parfois involontaires. C'est ainsi que "1984", d'Orwell, est cité comme ayant été transgressif parce qu'il se projetait dans le futur, mais est accusé d'avoir "perdu sa valeur transgressive" parce que... le temps a passé ! (p. 23), alors que la logique serait plutôt de dire alors que c'est l'ensemble de la SF qui l'aurait ainsi perdue. De même, la transgressivité d'Aldous Huxley en 1932 dans "Le meilleur des mondes" n'est pas de "briser les conventions..." mais d'"écrire un véritable roman de science-fiction." ! (p. 82). Alors, il rejoint l'autre camp, par une oeuvre qui, dans ce nouveau contexte, devrait alors perdre toute transgressivité. On ne sait plus trop... On trouve aussi des raisonnements presque circulaires : "A partir du moment où un roman se présente comme un space opera ou une héroïc fantasy, avec les signes emblématiques correspondants (...) on ne le considèrera pas comme une transgression puisque, précisément, il ne transgresse pas les limites du genre auquel il se rattache" (p. 42). On ne sait plus alors si pour être "transfictif" un ouvrage doit transgresser les lois de la physique, ou celles de la science-fiction. Et comme, de fait, les limites en question n'arrêtent pas d'être transgressées, par l'évolution inéluctable des thématiques littéraires, la définition tombe en quenouille en permanence. Comme disait le sapeur Camember (et/ou Pierre Dac, au choix) : "quand les bornes sont franchies, il n'y a plus de limites".
Et puis on reste très dubitatif devant des raisonnements comme : "L'approche science-fictionnelle stricto sensu s'attache d'abord à suivre de manière logique les conséquences d'une infraction aux règles (de la réalité, note de G.), tandis que la démarche littéraire explore en toute liberté les bizarreries qui en découlent" (p. 25) ou devant des définitions comme celle de l'uchronie "variante rétrospective de l'utopie" (p. 21), qui laissent plutôt perplexe.
En fait, on finit par se dire que transgresser, c'est simplement changer de casquette, ne pas publier dans la collection idoine, écrire là où on ne vous attendait pas ! Voir, par exemple, une oeuvre de Brussolo, "d'abord publiée en littérature générale avant d'être rééditée (...) dans une collection spécialisée" (p. 169). On rejoindrait là d'ailleurs ce qui me semble être la même préoccupation dans "l'esthétique de la fusion" chère à Francis Valéry.
Plus sérieusement, on peut s'interroger sur une définition aussi mouvante, et se dire que, depuis la nuit des temps, la transgression, thématique et formelle, est précisément le moteur de l'évolution de la littérature, quelle qu'elle soit, si ce n'est même des arts en général, et que tout cet effort de théorisation risque bien in fine d'aboutir à une séduisante, complexe, mais inévitable lapalissade.
La chose est d'ailleurs tellement ambiguë que l'on trouve sur un site coopératif ("Critiques libres", à http://www.critiqueslibres.com/i.php), sous la signature d'un lecteur lambda, la phrase suivante : "Recueil presque indispensable pour découvrir ce genre littéraire intermédiaire entre la science-fiction et la littérature plus réaliste." Et voilà : comme je le laissais entendre plus haut, les transfictions deviennent... un genre ! Il est temps qu'il soit, lui aussi, transgressé ! Borgès, encore lui, (ou peut-être Groucho Marx) aurait pu dire que pour faire partie de ce panorama, un ouvrage devrait seulement ne ressembler à aucun de ceux qui y sont déjà.

En tout cas, aucun des commentateurs de l'ouvrage de Berthelot que j'aie pu lire, à l'exception peut-être de Markus Leight, et encore bien partiellement, sur son blog, ne s'interroge vraiment sur la validité de ces constructions théoriques, et presque tous prennent pour argent comptant et sans discussion cet argumentaire pas très cohérent. Patrick Imbert, par exemple, dans Bifrost (41, déc. 2005) n'en dit que des généralités (2).

Une hypothèse...

Autant FB est clair sur le glissement des littératures du réel vers les domaines de l'imaginaire, autant, on l'a vu, il ne me convainc pas sur le mouvement des littératures de l'imaginaire hors des "conventions de genre", idée qui me paraît, soyons franc, assez confuse, et très "mode". En tout cas, je ne vois entre ces deux mouvements aucun lien, pas le moindre rapport, comme s'ils étaient en quelque sorte parfaitement indépendants, ce qui est pour le moins insatisfaisant.
Alors, concernant ce second aspect, je me suis demandé si Berthelot n'était pas en train de passer à côté d'un autre phénomène, concernant les fameux "codes" que sont censés "briser" certains auteurs des littératures de l'imaginaire, et s'il ne devenait pas nécessaire de s'intéresser non plus cette fois aux codes "des genres", mais aux codes d'UN genre en particulier, celui, massif, prégnant, envahissant, tentaculaire, constitué par le roman d'aventures.
Il est étonnant en effet que FB cite, en passant (p. 41), le roman d'aventures comme une des modalités de la "littérature générale" sans sembler s'apercevoir qu'il constitue, depuis longtemps, et dans quasiment tous les "sous-genres", le plus gros des bataillons des littératures de l'imaginaire, et sans voir que c'est là qu'il serait le plus utile de chercher les véritables codes à "briser", et la réelle transgression.
Car quand des auteurs de littérature du réel explorent les territoires de l'imaginaire, nouveaux pour eux, ils y apportent leur sensibilité et leur voix ; à l'inverse, des auteurs des domaines de l'imaginaire peuvent sortir des conventions "de cape et d'épée" dans lesquelles baignent trop souvent les textes de leur pré carré, quel qu'il soit, libérant ainsi enfin de ce carcan leur propre sensibilité, leur propre voix.
Un lien est alors rétabli entre les deux mouvements, et l'ensemble trouve enfin sa cohérence...