On the curse of dimensionality in supervised learning of smooth regression functions

Elia Liitiäinen*, Francesco Corona, Amaury Lendasse

*Tämän työn vastaava kirjoittaja

    Tutkimustuotos: LehtiartikkeliArticleScientificvertaisarvioitu

    4 Sitaatiot (Scopus)

    Abstrakti

    In this paper, the effect of dimensionality on the supervised learning of infinitely differentiable regression functions is analyzed. By invoking the Van Trees lower bound, we prove lower bounds on the generalization error with respect to the number of samples and the dimensionality of the input space both in a linear and non-linear context. It is shown that in non-linear problems without prior knowledge, the curse of dimensionality is a serious problem. At the same time, we speculate counter-intuitively that sometimes supervised learning becomes plausible in the asymptotic limit of infinite dimensionality.

    AlkuperäiskieliEnglanti
    Sivut133-154
    Sivumäärä22
    JulkaisuNeural Processing Letters
    Vuosikerta34
    Numero2
    DOI - pysyväislinkit
    TilaJulkaistu - lokakuuta 2011
    OKM-julkaisutyyppiA1 Julkaistu artikkeli, soviteltu

    Sormenjälki Sukella tutkimusaiheisiin 'On the curse of dimensionality in supervised learning of smooth regression functions'. Ne muodostavat yhdessä ainutlaatuisen sormenjäljen.

  • Siteeraa tätä